PPt2 - Single Layer

Supervised Learning:Qúa trình dạy và dữ liệu test, Dữ liệu dạy cho mạng (training set) có dạng (input,target). Perceptron một lớp: Tổng quát hóa cho các mạng perceptronmột lớp với nhiều neurons:Các neuron có đầu ra độc lập với nhau.Mỗi weight chỉ tác động lên một trong các đầu
Nội dung trích xuất từ tài liệu:
PPt2 - Single Layer Supervised Learning  Qúa trình dạy và dữ liệu test  Dữ liệu dạy cho mạng (training set) có dạng (input,target)FacultyofElectronicsandTelecommunications,HUT 1 1Bangkok,Jun.14–23,2006 Perceptron: kiến trúc Xét mạng neural feed-forward một lớp và chỉ có một neuron: M MFacultyofElectronicsandTelecommunications,HUT 2 2Bangkok,Jun.14–23,2006 Perceptronmộtlớp Tổngquáthóachocácmạngperceptron mộtlớpvớinhiềuneurons: M M• Các neuron có đầu ra độc lập với nhau• Mỗi weight chỉ tác động lên một trong các đầu raFacultyofElectronicsandTelecommunications,HUT 3 3Bangkok,Jun.14–23,2006Perceptron: Mô hình neuron McCulloch-Pitts perceptron là NN 1 lớp với hàm activation phi tuyến ϕ(.) là hàm thể hiện dấu (sign function) + 1 if v ≥ 0 j (v ) =  − 1 if v < 0 b (bias) x1 w1 w2 v ϕ (v) y x2 wn xnFacultyofElectronicsandTelecommunications,HUT 4 4Bangkok,Jun.14–23,2006 Perceptron dùng để phân loại Perceptron này được dùng để phân. Với các mẫu thuộc các lớp C1, C2, dùng các mẫu này dạy cho mạng perceptron để mạng phân loại chính xác các nhóm mẫu:  Nếu đầu ra là +1 thì đầu vào được gán vào nhóm C1  Nếu đầu ra là -1 thì đầu vào được gán vào nhóm C2FacultyofElectronicsandTelecommunications,HUT 5 5Bangkok,Jun.14–23,2006 Dạy cho mạng Perceptron Dạy để mạng có thể thực hiện nhiệm vụ phân loại dữ liệu đưa vào; thực tế là tìm các giá trị phù hợp cho weights. Xét về mặt hình học, đó là tìm ra hyper- plane dùng để phân biệt nhóm dữ liệu vào.FacultyofElectronicsandTelecommunications,HUT 6 6Bangkok,Jun.14–23,2006Perceptron xét theo hình học 2Biểu thức: ∑w x i =1 i i + w0 = 0 Đầu vào gồm các vector giá trị thực 2 chiều. Mặt phẳng phân tách không gian đầu vào thành hai miền, mỗi miền ứng với một lớp: x2 decision decision boundary region for C1 x1 C2 w1x1 + w2x2 + w0 = 0FacultyofElectronicsandTelecommunications,HUT 7 7Bangkok,Jun.14–23,2006 Ví dụ chức năng AND  Hàm AND được biểu diễn như dưới đây:  Điểm trắng ứng với false, và đen ứng với true ở đầu ra  -1 có nghĩa là false, +1 nghĩa là true đối với đầu vào -1 AND -1 = false -1 AND +1 = false +1 AND -1 = false +1 AND +1 = trueFacultyofElectronicsandTelecommunications,HUT 8 8Bangkok,Jun.14–23,2006Ví dụ về chức năng AND, cont. PhânbiệttruevàfalsetheohìnhdướiFacultyofElectronicsandTelecommunications,HUT 9 9Bangkok,Jun.14–23,2006Ví dụ về chức năng AND, cont. Xem perceptron học để trở thành hàm AND:FacultyofElectronicsandTelecommunications,HUT 10 10Bangkok,Jun.14–23,2006 Ví dụ về chức năng XOR HàmXORnhưsau: -1 XOR -1 = false -1 XOR +1 = true +1 XOR -1 = true +1 XOR +1 = falsePerceptron không thể học các hàm không thể phân biệt tuyến tính FacultyofElectronicsandTelecommunications,HUT 11 11 Bangkok,Jun.14–23,2006 Ví dụ về chức năng XOR, cont. Quansátperceptroncốgắng ...