Tóm tắt Luận văn Thạc sĩ Công nghệ thông tin: Xây dựng mô hình đối thoại cho Tiếng Việt trên miền mở dựa vào phương pháp học chuỗi liên tiếp

Trong đề tài này, tác giả tiến hành nghiên cứu, xây dựng một mô hình đối thoại cho tiếng Việt, dựa trên phương pháp học chuỗi liên tiếp, sequence-to-sequence, để sinh ra câu trả lời từ một chuỗi đầu vào tương ứng. Lợi thế của phương pháp này là mô hình có thể được huấn luyện end-to-end trên tập dữ liệu có sẵn, và yêu cầu ít hơn các luật bằng tay. Mời các bạn cùng tham khảo tài liệu để nắm biết thêm về kết quả của đề tài nghiên cứu này.
Nội dung trích xuất từ tài liệu:
Tóm tắt Luận văn Thạc sĩ Công nghệ thông tin: Xây dựng mô hình đối thoại cho Tiếng Việt trên miền mở dựa vào phương pháp học chuỗi liên tiếpĐẠI HỌC QUỐC GIA HÀ NỘITRƯỜNG ĐẠI HỌC CÔNG NGHỆNHỮ BẢO VŨXÂY DỰNG MÔ HÌNH ĐỐI THOẠI CHO TIẾNG VIỆTTRÊN MIỀN MỞ DỰA VÀO PHƯƠNG PHÁP HỌC CHUỖILIÊN TIẾPNgành: Công nghệ thông tinChuyên ngành: Hệ thống thông tinMã số: 60480104TÓM TẮT LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TINNGƯỜI HƯỚNG DẪN KHOA HỌC: TS. Nguyễn Văn NamHÀ NỘI – 2016LỜI CAM ĐOANTôi là Nhữ Bảo Vũ, học viên khóa K21, ngành Công nghệ thông tin, chuyênngành Hệ Thống Thông Tin. Tôi xin cam đoan luận văn “Xây dựng mô hình đốithoại cho tiếng Việt trên miền mở dựa vào phương pháp học chuỗi liên tiếp” là dotôi nghiên cứu, tìm hiểu và phát triển dưới sự hướng dẫn của TS. Nguyễn VănNam. Luận văn không phải sự sao chép từ các tài liệu, công trình nghiên cứu củangười khác mà không ghi rõ trong tài liệu tham khảo. Tôi xin chịu trách nhiệm vềlời cam đoan này.Hà Nội, ngàythángnăm 2016MỤC LỤCLỜI CAM ĐOAN ............................................................................................................2MỤC LỤC .......................................................................................................................3DANH MỤC KÝ HIỆU VÀ CÁC CHỮ VIẾT TẮT .....................................................4DANH MỤC HÌNH VẼ VÀ ĐỒ THỊ .............................................................................5TÓM TẮT........................................................................................................................61. CHƯƠNG 1: TỔNG QUAN VỀ HỆ THỐNG TRẢ LỜI TỰ ĐỘNG.....................71.1Động lực nghiên cứu và tính cấp thiết của bài toán thực tế .....................................................71.2Tình hình nghiên cứu trong và ngoài nước ..............................................................................71.3Phân loại các mô hình trả lời tự động.......................................................................................82. CHƯƠNG 2: CƠ SỞ MẠNG NƠ RON NHÂN TẠO .............................................92.1Kiến trúc mạng nơ ron nhân tạo ...............................................................................................92.3Mạng nơ-ron tái phát và ứng dụng .........................................................................................102.3.1Mạng nơ-ron tái phát ......................................................................................................102.3.2Các ứng dụng của mạng RNN ........................................................................................102.4Mạng Long Short Term Memory (LSTM) .............................................................................102.4.1 Vấn đề phụ thuộc quá dài ...................................................................................................103. CHƯƠNG 3: MÔ HÌNH ĐỐI THOẠI VỚI MẠNG NƠ-RON .............................123.1Hệ thống đối thoại người máy ................................................................................................123.2Mô hình ngôn ngữ ..................................................................................................................123.3Mô hình chuỗi liên tiếp seq2seq .............................................................................................133.4Mô hình đối thoại Seq2seq .....................................................................................................133.5Những thách thức chung khi xây dựng mô hình đối thoại .....................................................153.5.1 Phụ thuộc bối cảnh .............................................................................................................153.5.2 Kết hợp tính cách ...............................................................................................................154. CHƯƠNG 4: THỰC NGHIỆM XÂY DỰNG MÔ HÌNH ĐỐI THOẠI CHO TIẾNGVIỆT ..............................................................................................................................164.1Dữ liệu và công cụ thực nghiệm.............................................................................................164.2Tách từ tập dữ liệu tiếng Việt .................................................................................................174.3Thực nghiệm xây dựng mô hình đối thoại tiếng Việt.............................................................18KẾT LUẬN ...................................................................................................................21TÀI LIỆU THAM KHẢO .............................................................................................22DANH MỤC KÝ HIỆU VÀ CÁC CHỮ VIẾT TẮTTừ viết tắtNLPANNRNNCNNLSTMTừ chuẩnNatural Languague ProcessingArtificial Nerual NetworkRecurrent Neural NetworkConvolutional NeuralNetworksLong short-term memoryVNTKNLTKVietnamese Languague ToolkitNatural Language ToolkitPythonNodejsPythonNodejsSDKCPUGPUAPIQABLEUSupport Development KitCentral Processing UnitGraphics Processing UnitApplication ProgrammingInterfaceQuestion AnsweringBilingual EvaluationUnderstudyDiễn giảiXử lý ngôn ngữ tự nhiênMạng nơ ron nhân tạoMạng nơ ron tái phátMạng nơ ron tích chậpMạng cải tiến để giải quyết vấn đề phụ thuộcquá dàiBộ công cụ xử lý ngôn ngữ tiếng ViệtBộ công cụ xử lý ngôn ngữ tự nhiên bằngPythonNgôn ngữ lập trình pythonNền tảng lập trình phía Server sử dụng ngônngữ lập trình javascriptBộ công cụ hỗ trợ phát triểnBộ xử lý trung tâmBộ vi xử lý chuyên dụng nhận nhiệm vụ tăngtốc, xử lý đồ họa cho bộ vi xử lý trung tâmCPUGiao diện lập trình ứng dụngCác cặp câu hỏi đápThuật toán để đánh giá chất lượng của mộtvăn bản được sinh ra từ một mô hình ngônngữ tự nhiênDANH MỤC HÌNH VẼ VÀ ĐỒ THỊHình 2.1: Kiến trúc mạng nơ-ron nhân tạo................. ...