LÝ THUYẾT MẠNG NƠRON

Nơron tự nhiên. Thành phần cấu thành cơ bản của hệ thần kinh trung ương là nơron. Tế bào sinh học này nhận và xử lý thụng tin và sau đú giao tiếp với cỏc phần khỏc của cơ thể con người. Hình 1.1 trỡnh bày một mụ hỡnh đơn giản cỏc nơron sinh học và hỡnh 1.2 mụ tả một nơron sinh học. Thõn tế bào thần kinh được gọi là soma và được bao quanh bởi một lớp mạng huyết tương mỏng.
Nội dung trích xuất từ tài liệu:
LÝ THUYẾT MẠNG NƠRONLÝ THUYẾT MẠNG NƠRON Lí THUYẾT MẠNG NƠRON1.1 Nơron tự nhiên Thành phần cấu thành cơ bản của hệ thần kinh trung ương là nơron. Tế bàosinh học này nhận và xử lý thụng tin và sau đú giao tiếp với cỏc phần khỏc của cơthể con người. Hỡnh 1.1 trỡnh bày một mụ hỡnh đơn giản cỏc nơron sinh học vàhỡnh 1.2 mụ tả một nơron sinh học. Thõn tế bào thần kinh được gọi là soma vàđược bao quanh bởi một lớp mạng huyết tương mỏng. Hỡnh 1.1: Sơ đồ 5 nơron liờn kết với nhau 1 Hỡnh 1.2: Sơ đồ một nơron sinh họcMỗi tế bào thần kinh nhận nhiều đầu vào thụng qua cỏc dendrite và sau khi xử lý sẽtạo một đầu ra dọc theo axon. Điểm nối giữa một axon và một dendrite được gọi làsynapse. Thụng tin do một tế bào thần kinh tạo ra được truyền dọc theo axon củanú. Một axon kết thỳc ở mối nối khớp của một nơron khỏc.Về mặt xử lý thụng tin, một nơron với nhiều dendrite như nhiều đầu vào và mộtaxon đại diện một đầu ra cú thể được xem như một hệ MISO. Cỏc hàm xử lý thụngtin trong hệ MISO này được chia thành 4 loại. Hỡnh 1.3 mụ tả một nơron đơn giản. Hỡnh 1.3: Mụ hỡnh một nơron đơn giản cú nhiều đầu vào và một đầu ra 2Dendrites: Chỳng bao gồm một cõy nhiều nhỏnh, đúng vai trũ như cỏc đầu vào củanơron. Trung bỡnh cú 103 − 104 dendrite trờn một nơron.Synapse: Đõy là vựng chứa đựng cỏc kinh nghiệm trong quỏ khứ. Nú cung cấp bộnhớ dài hạn cho cỏc kinh nghiệm được thu thập trong quỏ khứ. Vựng này nhậnthụng tin từ cỏc giỏc quan hay từ cỏc nơron khỏc và cung cấp đầu ra thụng quaaxon.Soma: Thõn tế bào thần kinh được gọi soma. Nú nhận thụng tin từ synapse và sauđú xử lý thụng tin. Hầu như tất cỏc cỏc chức năng logic của nơron được thực hiện ởsoma.Axon: Đầu ra của nơron được gọi là axon.1.2 Nơron nhõn tạo Hỡnh 1.4: Nơ-ron nhõn tạoCấu trỳc một nơron nhõn tạo (xem hỡnh 1.4) bao gồm cỏc thành phần sau:Đầu vào x1 , x2 ,..., xn : Cỏc đầu vào nhõn với cỏc trọng số w1 , w2 ,..., wn . Một đầuvào cú giỏ trị bằng 1 được gọi là 1 bias và được ký hiệu là x0 .Hàm số đầu vào f tớnh tập hợp cỏc tớn hiệu đầu vào cho nơron u = f ( x, w) , trongđú x và w lần lượt là cỏc vectơ đầu vào và trọng số. Thụng thường chọn f là hàm ntổng u = ∑x w . i =1 i iHàm kớch thớch s tớnh toỏn mức độ kớch thớch của nơron a=s(u). 3Hàm đỏp ứng tớnh toỏn giỏ trị tớn hiệu đầu ra của nơron o=g(a). Tớn hiệu đầu racủa tớn hiệu thụng thường bằng mức độ kớch thớch của nơron o=a.Tựy theo sự khỏc nhau của từng tham số ở trờn mà sinh ra cỏc kiểu nơron khỏcnhau. Cỏc giỏ trị đầu vào và đầu ra của 1 nơron cú thể số nhị phõn {0,1}, số lai{-,1}, giỏ trị liờn tục trong đoạn [0,1], hoặc cỏc số rời rạc trong 1 khoảng được địnhnghĩa trước.Hỡnh 1.5: Cỏc hàm kớch thớch hay được sử dụng nhất: (a) Hàm chặn cứng; (b- 1), (b-2) Cỏc hàm chặn tuyến tớnh ; (c) Cỏc hàm sigma: hàm logsig (c-1), hàm logsig 2 cực (c-2); (d) hàm gaussian (hàm hỡnh quả chuụng)Hỡnh trờn mụ tả cỏc loại hàm kớch thớch hay được sử dụng nhất.Hàm chặn cứng (hỡnh 1.5[a]). Nếu giỏ trị đầu vào của mạng lớn hơn 1 giỏ trị chặnnào đú thỡ nơron trở nờn tớch cực (giỏ trị kớch thớch bằng 1), ngược lại nú sẽkhụng tớch cực (giỏ trị kớch thớch bằng 0).Hàm chặn tuyến tớnh. Giỏ trị kớch thớch sẽ tăng tuyến tớnh cựng với sự tăng củatớn hiệu đầu vào và khi đến một ngưỡng nào đú đầu ra sẽ bóo hũa. Cỏc kiểu hàmchặn tuyến tớnh khỏc nhau phụ thuộc vào phạm vi của giỏ trị đầu ra nơron (hỡnh1.5[b-1], 1.5[b-2]). 4Hàm sigma. Hàm sigma là hàm truyền phi tuyến hỡnh chữ S được đặc trưng bởi cỏcyếu tố sau.Bị chặn, cỏc giỏ trị của nú bị hạn chế giữa 2 ngưỡng, vớ dụ như [0 1], [-1 1].Đơn điệu tăng, nghĩa là cỏc giỏ trị của g(u) khụng bao giờ giảm khi u tăng.Liờn tục và tăng, do đú cú thể đạo hàm ở mọi điểm trong miền của hàm xỏc địnhcủa hàm. Cỏc kiểu hàm sigma khỏc nhau được sử dụng trong thực tế là: hàm logsig 1a= (hỡnh 1.5[c-1]) trong đú c là hằng số. Một hỡnh thức khỏc của hàm 1 + e − cu 1 − e − culogsig là hàm logsig 2 cực: h ( u ) = (hỡnh 1.5[c-1]) và hàm tansig: 1 + e− cu ecu − e − cutanh ( u ) = . ecu + e − cuHàm gaussian (hàm hỡnh quả chuụng, hỡnh 1.5[d]).1.3 Mạng truyền thẳng và huấn luyện mạng theo thuật toỏnBrandt-Lin1.3.1 Mạng truyền thẳng Mạng nơron nhõn tạo là tập hợp cỏc nơron nhõn tạo được liờn kết với nhautheo một quy luật nhất định nhằm phục vụ nhu cầu của người thiết kế mạng. Cú 2loại mạng nơron thường được sử dụng là mạng truyền thẳng và mạng hồi tiếp. Hỡnh1.6 mụ tả mạng truyền thẳng và mạng hồi tiếp. Dự cấu trỳc của mạng nơron thuộcloại nào thỡ mạng nơron đều cú cấu tạo chung là được cấu thành từ cỏc lớp. Lớpđầu tiờn được gọi là lớp đầu vào (input layer), lớp cuối cựng được gọi là lớp đầu ra(output layer), cỏc lớp giữa được gọi là cỏc lớp ẩn (hidden layer). 5 Hỡnh 1.6 : (a) Mạng truyền thẳng ; (b) Mạng hồi tiếp Khi ứng dụng đối với một hệ động học, yờu cầu tớnh toỏn nhanh luụn đượclờn hàng đầu. Mạng hồi tiếp tốn nhiều thời gian để tớnh toỏn nờn trong nội dung đồỏn này, chỳng em sử dụng mạng truyền thẳng.Sau đõy sẽ xem xột một mạng nơron truyền thẳng và tớnh toỏn đầu ra của mạng.Vớ dụ xột mạng nơron 2 lớp sau: Hỡnh 1.7: Mạng nơron 2 lớp (k)Gọi w ij là trọng số của nơron thứ i, cú đầu vào là j, thuộc lớp thứ k. 6 xi là đầu vào thứ i, i=1,2,3 z i là đầu ra của nơron thứ i thuộc lớp ẩn, i=1,2,3. ...