Top 8 # Xem Nhiều Nhất Trình Bày Cấu Tạo Của Nơron Sinh Học 8 Mới Nhất 4/2023 # Top Like

Nơ ron thần kinh đóng vai trò rất quan trọng trong cơ thể. Khi chúng bị tổn thương, con người có thể bị rối loạn vận động và cảm giác, dẫn đến hiện tượng run rẩy chân tay hoặc tê liệt một phần hoặc toàn bộ cơ thể.

Nơron là đơn vị cấu tạo của hệ thần kinh, trong hệ thần kinh có khoảng 1.000 tỉ nơron. Mô tả cấu tạo của một nơron điển hình gồm các bộ phận: thân, đuôi gai và sợi trục. Trình bày cấu tạo của nơron thần kinh với các phần cụ thể như sau

Trình bày cấu tạo của nơron thần kinh – thân nơron

Cấu tạo: trong cấu tạo của nơron thần kinh thân nơron là chỗ phình to của nơron chứa bào tương, nhân và các bào quan: ribosom, lysosom, thể nissl màu xám, bộ máy golgi, các sắc tố, ty thể, tơ thần kinh, ống siêu vi. Vì vậy, nơi nào có nhiều thân của nơron thì nơi đó có màu xám.

Chức năng: thân nơron có chức năng dinh dưỡng cho nơron, đồng thời có thể là nơi phát sinh xung động thần kinh và là nơi tiếp nhận xung đột thần kinh từ tuyến khác đến nơron.

Trình bày cấu tạo của nơron thần kinh – đuôi gai

Đôi gai là một phần quan trọng trong cấu tạo của nơron. Một nơron thì chứa nhiều đuôi gai, mỗi đuôi gai được chia làm nhiều nhánh. Chức năng chính của đuôi gai là tiếp nhận xung động thần kinh truyền đến nơron và cùng với sợi trục tạo nên chất trắng cho hệ thần kinh.

Trình bày cấu tạo của nơron thần kinh – sợi trục

Sợi trục thường có đường kính khoảng 0,5 μm – 22 μm. Ở bên ngoài sợi trục, có thể có lớp các tế bào Schwann bao bọc. Ở đoạn cuối của sợi trục được chia thành nhiều nhánh, ở cuối nhánh có một chỗ phình to được gọi là cúc tận cùng có vai trò cấu tạo nên xinap dẫn truyền xung thần kinh

Chức năng: dẫn truyền xung thần kinh ra khỏi nơron và cùng với đuôi gai tạo nên chất trắng của hệ thần kinh.

Có rất nhiều tiêu chí để phân loại nơron thần kinh, trong đó có hai tiêu chí chính là phân loại theo hướng dẫn truyền xung điện và phân loại theo chức năng của nơron thần kinh

Dựa vào hướng dẫn truyền xung thần kinh, nơron có thể chia thành 3 loại:

Nơron hướng tâm: có vị trí nằm bên ngoài trung ương thần kinh và thực hiện chức năng dẫn truyền xung thần kinh về trung ương.

Nơron trung gian: vị trí nằm trong trung ương thần kinh, thực hiện chức năng liên lạc.

Nơron li tâm: nằm ở giữa trung ương thần kinh, thực hiện chức năng dẫn các xung li tâm từ tủy sống và não đến các cơ quan phản ứng.

Phân loại theo chức năng của nơron thần kinh, có thể chia thành 3 loại cụ thể như sau:

, Education at Saigon Institute for Computational Science & Technology

Published on

Trong rất nhiều lĩnh vực như điều khiển, tự động hóa, công nghệ thông tin…, nhận dạng được đối tượng là vấn đề mấu chốt quyết định sự thành công của bài toán. Một nhược điểm khi dùng mạng nơron là chưa có phương pháp luận chung khi thiết kế cấu trúc mạng cho các bài toán nhận dạng và điều khiển mà phải cần tới kiến thức của chuyên gia. Mặt khác khi xấp xỉ mạng nơron với một hệ phi tuyến sẽ khó khăn khi luyện mạng vì có thể không tìm được điểm tối ưu toàn cục… Hiện nay, việc nghiên cứu các thuật toán tìm nghiệm tối ưu toàn cục khi luyện mạng nơron đã được một số tác giả nghiên cứu áp dụng. Tuy nhiên khi sử dụng mạng nơron để xấp xỉ một số đối tượng phi tuyến mà mặt lỗi sinh ra có dạng lòng khe, việc huấn luyện mạng gặp rất nhiều khó khăn. Nội dung đề tài sẽ đi nghiên cứu một thuật toán tìm điểm tối ưu toàn cục trong quá trình luyện mạng nơron bằng thuật toán vượt khe có sự kết hợp với giải thuật di truyền.

1. 1 MỞ ĐẦU 1. Tính cấp thiết của đề tài Trong rất nhiều lĩnh vực như điều khiển, tự động hóa, công nghệ thông tin…, nhận dạng được đối tượng là vấn đề mấu chốt quyết định sự thành công của bài toán. Một nhược điểm khi dùng mạng nơron là chưa có phương pháp luận chung khi thiết kế cấu trúc mạng cho các bài toán nhận dạng và điều khiển mà phải cần tới kiến thức của chuyên gia. Mặt khác khi xấp xỉ mạng nơron với một hệ phi tuyến sẽ khó khăn khi luyện mạng vì có thể không tìm được điểm tối ưu toàn cục… Hiện nay, việc nghiên cứu các thuật toán tìm nghiệm tối ưu toàn cục khi luyện mạng nơron đã được một số tác giả nghiên cứu áp dụng. Tuy nhiên khi sử dụng mạng nơron để xấp xỉ một số đối tượng phi tuyến mà mặt lỗi sinh ra có dạng lòng khe, việc huấn luyện mạng gặp rất nhiều khó khăn. Nội dung đề tài sẽ đi nghiên cứu một thuật toán tìm điểm tối ưu toàn cục trong quá trình luyện mạng nơron bằng thuật toán vượt khe có sự kết hợp với giải thuật di truyền. 2. Mục tiêu của luận án – Đề xuất mô hình kết hợp thuật toán vượt khe và giải thuật di truyền để huấn luyện mạng nơron. – Xây dựng bộ công cụ phần mềm luyện mạng nơron cho một số bài toán có mặt lỗi đặc biệt, làm cơ sở bổ sung vào Neural Toolbox Matlab. 3. Nội dung chính của luận án – Nghiên cứu lí thuyết về thuật toán vượt khe và xây dựng thuật toán tính bước học vượt khe. – Xây dựng thuật toán huấn luyện mạng nơron bằng kỹ thuật lan tuyền ngược kết hợp với thuật toán vượt khe.

2. 2 – Đề xuất thuật toán huấn luyện mạng nơron bằng kỹ thuật lan truyền ngược có sử dụng giải thuật di truyền kết hợp với thuật toán vượt khe. – Viết và cài đặt chương trình huấn luyện mạng nơron trên C++. – Viết và cài đặt chương trình huấn luyện mạng nơron trên Matlab. CHƢƠNG 1 MẠNG NƠRON VÀ QUÁ TRÌNH HỌC CỦA MẠNG NƠRON 1.1. Giới thiệu về mạng nơron và quá trình học của mạng nơron 1.1.1. Mạng nơron và các phƣơng pháp học Mạng nơron nhân tạo, gọi tắt là mạng nơron, là một mô hình xử lý thông tin phỏng theo cách thức xử lý thông tin của các hệ nơron sinh học. Nó được tạo lên từ một số lượng lớn các phần tử (gọi là nơron) kết nối với nhau thông qua các liên kết (gọi là trọng số liên kết) làm việc như một thể thống nhất để giải quyết một vấn đề cụ thể nào đó. Một mạng nơron nhân tạo được cấu hình cho một ứng dụng cụ thể (nhận dạng mẫu, phân loại dữ liệu,…) thông qua một quá trình học từ tập các mẫu huấn luyện. Về bản chất học chính là quá trình hiệu chỉnh trọng số liên kết giữa các nơron sao cho giá trị hàm lỗi là nhỏ nhất. Có ba phương pháp học phổ biến là học có giám sát, học không giám sát và học tăng cường. Học có giám sát là phương pháp được sử dụng phổ biến nhất, trong đó tiêu biểu là kỹ thuật lan truyền ngược. 1.1.2. Đánh giá các nhân tố của quá trình học 1.1.2.1. Khởi tạo các trọng số Do bản chất của giải thuật học lan truyền ngược sai số là phương pháp giảm độ lệch gradient nên việc khởi tạo các giá trị ban đầu của các trọng số các giá trị nhỏ ngẫu nhiên sẽ làm cho mạng hội tụ về các giá trị cực tiểu khác nhau.

3. 3 1.1.2.2. Bước học α Việc chọn hằng số học ban đầu là rất quan trọng. Với mỗi bài toán ta lại có phương án chọn hệ số học khác nhau. Khi một quá trình huấn luyện theo kỹ thuật lan truyền ngược hội tụ, ta chưa thể khẳng định được nó đã hội tụ đến phương án tối ưu. Ta cần phải thử với một số điều kiện ban đầu để đảm bảo thu được phương án tối ưu. 1.2. Nhận dạng hệ thống sử dụng mạng nơron 1.2.1. Nhận dạng hệ thống 1.2.1.1. Tại sao phải nhận dạng Bài toán nhận dạng là một vấn đề đặt lên hàng đầu trong nhiều các lĩnh vực khác nhau như: điện tử y sinh, điện tử viễn thông, hệ thống điện, tự động hóa và điều khiển… Ví dụ như: nhận dạng vân tay, nhận dạng ký tự, ảnh, tiếng nói, phát hiện và chẩn đoán bệnh… 1.2.2. Nhận dạng hệ thống sử dụng mạng nơron 1.2.2.1. Khả năng sử dụng mạng nơron trong nhận dạng Xét trường hợp đối tượng phi tuyến có độ phức tạp cao, nếu sử dụng phương pháp giải tích thông thường để nhận dạng sẽ rất khó khăn, thậm chí không thực hiện được do sự hiểu biết nghèo nàn về đối tượng. Vì vậy các nhà khoa học đã đưa ra ý tưởng là sử dụng công cụ tính toán mềm như hệ mờ, mạng nơron, đại số gia tử để xấp xỉ – chính là nhận dạng đối tượng. Mạng nơron là một trong những công cụ hữu hiệu để nhận dạng mô hình đối tượng, bằng phương pháp này ta không biết được mô hình toán thực sự của đối tượng nhưng hoàn toàn có thể sử dụng kết quả xấp xỉ để thay thế đối tượng. 1.2.2.2. Mô hình nhận dạng hệ thống sử dụng mạng nơron Nhận dạng gồm: nhận dạng mô hình và nhận dạng tham số. Nhận dạng mô hình là quá trình xác định mô hình của đối tượng và thông số trên cơ sở đầu vào và đầu ra của đối tượng. Mô hình thu được sau khi nhận dạng gọi là tốt nếu nó thể hiện được đúng đối

4. 4 tượng. Như vậy có thể sử dụng mô hình thay cho đối tượng để dự báo, kiểm tra và điều khiển. Mạng nơron được huấn luyện để mô hình hóa quan hệ vào ra của đối tượng. Như vậy quy trình nhận dạng mô hình có bản chất là thuật toán luyện mạng. Cấu trúc mạng nơron giải bài toán nhận dạng mô hình rất đa dạng, tùy thuộc vào từng bài toán cụ thể. Nhận dạng tham số chính là huấn luyện mạng, được biểu diễn trên Hình 1.2. Tín hiệu sai số ˆe y y là cơ sở cho quá trình luyện mạng. Mạng nơron ở đây có thể là mạng nhiều lớp hoặc các dạng khác và có thể sử dụng nhiều thuật luyện mạng khác nhau. 1.2.2.3. Nhận dạng hệ thống sử dụng mạng nơron Nhận dạng hệ thống cần hai giai đoạn là lựa chọn mô hình và tối ưu tham số. Đối với mạng nơron lựa chọn số nút ẩn, số lớp ẩn (cấu trúc của mạng) tương đương với mô hình lựa chọn. Mạng có thể được huấn luyện theo kiểu giám sát với kỹ thuật lan truyền ngược, dựa vào luật học sai số hiệu chỉnh. Tín hiệu sai số được lan truyền ngược qua mạng. Kỹ thuật lan truyền ngược sử dụng phương pháp giảm gradient để xác định các trọng của mạng vì vậy tương đương với tối ưu tham số. 1.3. Mặt lỗi đặc biệt khi luyện mạng nơron 1.3.1. Mặt lỗi đặc biệt khi luyện mạng nơron Hình 1.3: Mặt sai số dạng lòng khe Đối tượng Mạng nơron u y yˆ e – Hình 1.2: Mô hình nhận dạng cơ bản

5. 5 Hình 1.3 mô tả một mặt sai số, có một vài điều đặc biệt cần chú ý đối với mặt sai số này: độ dốc biến đổi một cách mạnh mẽ trên không gian tham số. Vì lý do đó, nó sẽ khó để mà lựa chọn một tốc độ học phù hợp cho thuật toán giảm dốc nhất. 1.3.2. Ví dụ về bài toán dẫn đến mặt lỗi đặc biệt §Æc ®iÓm khe cña c¸c bµi to¸n tèi -u ho¸ trong ngµnh nhiÖt[28] Sử dụng mạng nơron để nhận dạng đối tượng Với các hệ thống có độ phi tuyến cao thì làm thế nào để nhận dạng đối tượng luôn là một câu hỏi đặt ra với chúng ta. Vì tính phi tuyến của các mạng nơron (hàm kích hoạt phi tuyến), chúng được dùng để mô tả các hệ thống phi tuyến phức tạp. Luyện mạng nơron có hai quá trình, quá trình ánh xạ và quá trình học. Học thực chất là quá trình lan truyền ngược. Thực hiện kỹ thuật lan truyền ngược chính là giải bài toán tối ưu tĩnh với hàm mục tiêu là mặt sai số. Hình dạng của mặt sai số phụ thuộc vào số lớp nơron và loại hàm kích hoạt. Trong khi mặt sai số với mạng tuyến tính một lớp có một cực tiểu đơn và độ dốc không đổi, mặt sai số với mạng nhiều lớp có thể có nhiều điểm cực tiểu cục bộ, có thể bị kéo dài, uốn cong tạo thành khe, trục khe và độ dốc có thể thay đổi ở một dải rộng trong các vùng khác nhau của không gian tham số. Thực tế, việc chọn hàm kích hoạt như thế nào, chọn số lớp mạng nơron bằng bao nhiêu phụ thuộc vào đối tượng cần xấp xỉ. Như vậy, do độ phức tạp của đối tượng cần xấp xỉ khác nhau nên hàm mục tiêu rất khác nhau và dẫn đến quá trình học (giải bài toán tối ưu) có thể rất phức tạp. Đặc biệt khi đối tượng cần xấp xỉ dẫn đến hàm mục tiêu có dạng lòng khe (ví dụ như đối tượng nhiệt) thì quá trình học rất khó khăn thậm chí không hội tụ nếu ta sử dụng các bộ công cụ có trong Toolbox của Matlab.

6. 6 1.4. Mô phỏng quá trình luyện mạng nơron khi sử dụng Toolbox của Matlab 1.4.1. Mô phỏng huấn luyện mạng nơron có mặt lỗi bình thƣờng XÐt hÖ thèng phi tuyÕn cÇn nhËn d¹ng cã m” h×nh to¸n häc sau: f (u) = 0.6 sin( .u) + 0.3 sin(3. .u) + 0.1 sin (5. .u) TÝn hiÖu vµo: u (k) = sin(2 .k/250) M¹ng n¬ron sö dông lµ m¹ng truyÒn th¼ng 3 líp cã mét ®Çu vµo vµ mét ®Çu ra. 1.4.2. Mô phỏng huấn luyện mạng nơron có mặt lỗi đặc biệt Để minh họa, tác giả đề xuất cấu trúc mạng nơ ron để nhận dạng các chữ số: 0, 1, 2,…,9. Trong đó hàm sigmoid được sử dụng làm hàm kích hoạt. 1/ (1 exp(-x))f Hình 1.6 trình bày kết quả của quá trình luyện mạng cho bài toán nhận dạng chữ với các kỹ thuật lan truyền ngược sai số theo phương pháp Batch Gradient Descent (traingd), Batch Gradient Descent with Momentum (traingdm), Variable Learning Rate (traingda, traingdx). Các phương pháp này đều được tích hợp trên Neural Network Hình 1.5: Cấu trúc mạng nơron cho nhận dạng chữ H×nh 1.4: Kû nguyªn luyÖn m¹ng vÝ dô 1

7. 7 Toolbox của Matlab. Nhìn chung các phương pháp đều cho kết quả khá tốt, tuy nhiên để đạt được độ chính xác như mong muốn thì thời gian cần thiết cho luyện mạng là khá lớn. Thậm chí có trường hợp tín hiệu lỗi hầu như thay đổi rất ít qua các chu kỳ luyện mạng. 1.5. Tổng quan về tình hình nghiên cứu trong và ngoài nƣớc 1.6. Kết luận chƣơng 1 Trong chương 1, tác giả đã phân tích các nhân tố trong quá trình học của mạng nơron. Tác giả nhận thấy rằng, kết quả luyện mạng nơron phụ thuộc rất lớn vào giá trị ban đầu của vec-tơ trọng số và bước học. Việc mạng sẽ hội tụ đến điểm tối ưu toàn cục hay không nhiều khi còn phụ thuộc vào sự may mắn do việc chọn giá trị khởi tạo là ngẫu nhiên. Thêm nữa, việc lựa chọn bước học sẽ bằng bao nhiêu để có thể hội tụ hay ít nhất là tăng tốc độ hội tụ là một câu hỏi cũng được đặt ra, đặc biệt khi mặt lỗi có dạng đặc biệt. Để minh chứng cho điều đó tác giả đã đưa ra 2 ví dụ: Ở ví dụ 1, khi mặt lỗi dạng bình thường, sử dụng bộ công cụ trong Toolbox của Matlab để luyện mạng, mạng đã luyện thành công sau 65 bước tính. Đến ví dụ thứ 2 về nhận dạng chữ viết tay thì thời gian luyện mạng lâu hơn rất nhiều, thậm chí tín hiệu lỗi còn thay đổi rất ít qua các chu kỳ luyện mạng. Hình 1.6: Các kết quả luyện mạng nơ ron với các phương pháp lan truyền ngược khác nhau (traingd, traingdm, traindx, trainda)

8. 8 Để giải quyết vấn đề này, cần thiết phải tìm ra một thuật toán hiệu chỉnh các bước học nhằm rút ngắn thời gian hội tụ của mạng đồng thời cũng tránh được vấn đề cực trị địa phương. CHƢƠNG 2: THUẬT TOÁN VƢỢT KHE TRONG QUÁ TRÌNH LUYỆN MẠNG NƠRON 2.1. Thuật toán vƣợt khe Cho bài toán tối ưu và giải bài toán tối ưu không điều kiện: MinJ(u) u En (2.1) u là vec-tơ trong không gian Euclide n chiều Công thức lặp ở bước thứ k: uk+1 = uk + k sk , k = 0,1,…(2.2) trong đó: u : vectơ biến của hàm mục tiêu J(u) tại bước lặp thứ k; k là độ dài bước của hàm theo hướng chuyển động sk . Hướng chuyển động sk là hoàn toàn xác định tại mỗi bước lặp k. Hàm “khe” là hàm mà mặt đồng mức của nó được kéo dài ra và kết quả là tạo ra một khe dài, hình 2.2. Trên cả hai phía của “khe”, gradient của hàm mục tiêu có hướng ngược lại. Xét điểm X đặt vào một phía của “khe” và Y trên phía khác. Hầu hết trường hợp các điểm X và Y đều thoả mãn bất đẳng thức sau: 0)()( ” YJXJ s T s (2.4) 00. 1’11”’ kTk s kTk skkk SuJSuJhh (2.9) Dễ thấy rằng bất phương trình (2.9) là tương đương với (2.4) nếu Sk-1 = Sk , uk-1 = X, uk = Y. Điều kiện (2.9) đòi hỏi tại mỗi bước lặp chuyển động của hàm mục tiêu, được gọi là nguyên lý “vượt khe” Để đảm bảo tính đơn điệu của hàm mục tiêu trong quá trình tối ưu hoá, độ dài bước k phải thoả mãn bất phương trình sau: Hình 2.2: Hàm khe

9. 9 J(uk + k Sk ) < J(uk ). (2.10) tại mỗi bước lặp * * 0 * 0 argmin ,v v h h h h h (2.15) Trong đó, 0 < λ < 1 được gọi là hệ số vượt ** hh ; 00 hh Xác định bước vượt khe 2.2. Ứng dụng thuật toán vƣợt khe trong quá trình luyện mạng nơron Hình 2.7 mô tả thuật toán huấn luyện mạng nơron MLP bằng thuật học lan truyền ngược với bước học vượt khe. Thuật toán để tính bước học vượt khe được trình bày trên hình 2.4. Hình 2.4: Lưu đồ thuật toán tính bước vượt khe

10. 10 2.3. Minh họa thuật toán Bài toán ví dụ để minh họa cho thuật toán huấn luyện với bước học vượt khe như sau: Cho một vec-tơ đầu vào tới đầu vào mạng, mạng nơron phải trả lời cho chúng ta biết đầu vào ấy là cái gì. 2.3.1. Công tác chuẩn bị 2.3.1.1. Điều chỉnh trọng số lớp ra Gọi: b: trọng số lớp ra; z: đầu ra của nơron lớp ra. t: giá trị đích mong muốn; yj: đầu ra của nơron trong lớp ẩn Hình 2.7: Lưu đồ thuật toán huấn luyện mạng nơron MLP với bước học vượt khe

11. 11 v: tổng trọng hóa 1 0 M j j j v b y nên v/ bj = yj Ta sử dụng J = 0.5*(z-t)2 , nên J/ z = (z-t). Hàm kích hoạt nơron lớp ra là sigmoid z=g(v), với z/ v = z(1-z). Ta có công thức cập nhật trọng số lớp ra như sau (bỏ qua các chỉ số): . . . 1 .b z t z z y (2.17) Tốc độ học α được tính theo nguyên lý vượt khe. 2.3.1.2. Điều chỉnh trọng số lớp ẩn Đạo hàm hàm mục tiêu của mạng đối với một trọng số lớp ẩn được tính theo qui tắc chuỗi, . .J a J y y u u a . Gọi: a: trọng số lớp ẩn; y: đầu ra của một nơron trong lớp ẩn xi: các thành phần của vectơ vào của lớp vào u: tổng trọng hóa 1 0 N i i i u a x nên u/ ai = xi k: chỉ số của các nơron trong lớp ra Ta có công thức điều chỉnh trọng số cho lớp ẩn: 1 0 . . . 1 . . . 1 . K i k k k k k i k a z t z z b y y x (2.19) Tốc độ học α được tính theo nguyên lý vượt khe. 2.3.2. Cấu trúc mạng Hình 1.5 đã mô tả cấu trúc của mạng nơron nhiều lớp với 35 nơron lớp vào, 5 nơron lớp ẩn và 10 nơron lớp ra để nhận dạng các chữ số từ 0 đến 9. 2.3.3. Các thƣ viện và hàm mạng 2.3.4. Kết quả chạy chƣơng trình và so sánh 2.3.4.1. Chạy chương trình Sau khi lập trình bằng Visual C++, chạy chương trình, chúng ta cần lựa chọn một trong ba phương án từ bàn phím: c, g, v tương ứng với

12. 12 việc lựa chọn bước học cố định (viết tắt là c), bước học giảm dần (viết tắt là g), hay bước học vượt khe tính theo thuật toán vượt khe bằng thủ tục TINHBUOCHOCVUOTKHE()(viết tắt là v) được sử dụng để luyện mạng. Cách thức nhập từ bàn phím được mô tả: LUA CHON LOAI BUOC HOC CO DINH: c, GIAM DAN: g, NGUYEN LY VUOT KHE: v v [enter] Quá trình luyện mạng bắt đầu, nếu quá trình tìm kiếm bộ trọng số mạng thất bại chương trình sẽ thông báo rằng quá trình luyện mạng thất bại, còn nếu việc luyện mạng thành công thì chương trình sẽ cho chúng ta biết số bước lặp của quá trình luyện mạng; kết quả của hai ma trận trọng số lớp ẩn và lớp ra và yêu cầu chúng ta đưa vec-tơ x đầu vào để kiểm tra mạng. Cách thức nhập vec-tơ x từ bàn phím như sau (gồm có 7 hàng, mỗi hàng 5 giá trị; giá trị hoặc 0 hoặc là 1) Và chúng ta chờ câu trả lời của mạng. ******************************************* * CHUONG TRINH HUAN LUYEN MANG NO-RON * * BUOC HOC TINH THEO NGUYEN LY VUOT KHE * DANG HUAN LUYEN MANG THEO BUOC VUOT KHE… MANG DA DUOC HUAN LUYEN XONG SAU: 34 BUOC LAP! MA TRAN TRONG SO LOP AN MTTSLA[slnrlv][slnrla]: -0.513496 +0.764902 +0.833890 -1.213335 +0.821022 -0.714510 -0.330939 +0.718113 -0.010856 +1.041344 +0.203121 -0.493358 -0.615304 +1.198389 +1.225473 +0.680735 +0.133827 -1.207137 -0.042108 +1.715010 +0.013734 -0.783505 +0.020761 +0.770050 -0.108593 +0.823171 -1.643064 +1.088796 -1.139771 -0.177110 +0.773920 +0.239387 -1.654652 +0.578060 -0.869230 +0.727297 -0.028404 +0.788829 -1.379023 -1.399395

13. 13 +0.630254 +0.221009 -0.569163 +0.697461 +1.071346 -0.596292 -0.348468 -0.012247 +0.122078 +1.245557 -1.321880 -0.141454 -0.235088 +2.864328 +1.306939 +0.129423 +0.415885 -0.756748 +0.563398 +0.069821 +0.516451 +0.032283 +0.209667 -0.963300 -0.187824 +1.728189 -0.967244 -1.690552 -0.385068 -0.347820 +1.109388 +0.452760 -0.649945 -1.479361 -0.492071 -0.545680 +0.580958 -0.643666 -0.058043 +0.681030 -0.139105 +0.502492 -0.103526 -0.416014 +1.761168 -0.466114 +1.729941 +0.325881 +0.715679 -0.409421 -0.666974 +1.983714 +0.425334 -0.192603 +1.008505 -0.766750 +0.952648 -0.091599 -0.618372 +0.769775 +0.390731 -0.222322 -1.175726 -0.874193 -0.480719 +0.303599 -0.226470 +0.460789 -0.324308 -0.687494 -0.466552 -0.199729 +0.305401 -0.112127 -0.616490 -1.078721 +0.571089 +1.299650 -0.068734 +0.194324 -1.218586 +1.362693 +0.992297 +1.284863 +0.102053 -0.601627 +0.353629 +1.566376 -0.162777 -1.226421 +0.335808 +0.359233 -0.639406 +1.286489 -0.565971 +0.091049 +0.309190 -0.607970 -0.996621 +0.297518 -0.203598 +0.343273 +0.885806 -1.437262 +0.819597 -0.382919 +0.682280 +0.220937 +0.767746 -2.170041 +0.120224 +0.210313 +0.441168 +0.792983 -1.223393 +0.468991 +0.842258 -1.504078 +0.576556 +0.084106 -0.352618 -1.862809 +0.389202 +1.284403 +0.617516 -0.908492 -1.645394 +1.693434 -0.538605 +0.292108 +0.802787 +1.271673 -0.906446 +1.124133 -0.188477 MA TRAN TRONG SO LOP RA MTTSLR[slnrla][slnrlr]: +2.951620 -4.526521 -3.790868 -2.230710 -1.738504

14. 14 -2.769717 +1.312588 -4.664436 -2.827789 +2.371747 -0.364274 +2.201062 -3.916823 -3.320487 -4.069728 -1.782830 -4.044702 +3.170280 -4.158247 -3.187445 -6.282814 +0.281494 -1.669756 +1.434243 +1.132807 -2.987375 -3.486474 -0.478021 -4.107324 +4.076324 -1.912957 -2.763546 -3.092701 +1.134861 +2.352585 -5.310641 +3.295428 +0.162167 -2.746308 -2.727656 -2.506175 -2.950514 +0.563975 +2.650147 -2.085773 -2.361584 -0.225960 -4.947299 +3.709565 -3.014404 FINISH. 2.3.4.2. So sánh các phương án Bảng 2.2: Tập hồ sơ mẫu đầu vào {0 1 2 3 4 5 6 7 8 9} TT Bƣớc học cố định 0.2 Bƣớc học giảm dần từ 1 Bƣớc vƣợt khe 1 Thất bại Thất bại Thất bại 2 7902 (bước lặp) 3634 (bước lặp) 23 (bước lặp) 3 7210 2416 50 4 12370 2908 34 5 Thất bại 2748 31 6 9700 3169 42 7 Thất bại 2315 43 8 10073 2375 33 9 11465 Thất bại 34 10 8410 2820 33 11 10330 2618 32 12 Thất bại 2327 39 13 Thất bại 3238 44 14 9652 2653 Thất bại 15 11980 2652 31

15. 15 16 12607 Thất bại 53 17 Thất bại 2792 31 18 8165 2322 42 19 10130 2913 42 20 Thất bại 2689 33 Tổng kết TB: 10000 bƣớc lặp, 7 thất bại/20 TB: 2740 bƣớc lặp, 3 thất bại/20 TB: 37 bƣớc lặp, 2 thất bại/20 Với bước học cố định, ta thấy rằng số bước lặp cần có để mạng được huấn luyện thành công là rất lớn, trung bình là 10000 chu kỳ, nguyên nhân có thể do bước học chọn là bé (0.2). Tuy nhiên, nếu thử chọn bước học lớn hơn (0.3) thì kết quả là số lần luyện mạng thất bại nhiều hơn. Như trong bảng 2.2 thống kê thì đã bảy lần thất bại trong tổng số 20 lần luyện mạng với bước học là 0.2. Với bước học giảm dần từ 1 thì ba lần thất bại, số bước lặp để luyện mạng thành công khá ổn đinh, tuy nhiên chúng ta cũng thấy rằng, theo bảng 2.2 đã thống kê thì với bước học tính theo nguyên lý vượt khe, tốc độ hội tụ cao hơn với trung bình 37 bước lặp ta đã luyện mạng xong, số lần thất bại khi luyện mạng cũng được giảm đi. Một nhược điểm của phương án tính bước học vượt khe là chi phí thời gian để máy tính xử lý tính toán bước học trong mỗi bước lặp lớn do ta định nghĩa hằng số FD=1-e4 nhỏ, thuật toán sẽ phải lặp nhiều lần để thoát khỏi điều kiện này (bước 2 của thuật toán vượt khe). Tuy nhiên, về tổng chi phí thời gian luyện mạng thì có lợi hơn. 2.4. Kết luận chƣơng 2 Trong chương 2, tác giả đã giới thiệu về một thuật toán mới để tìm bước học, phù hợp cho mặt lỗi có dạng khe là thuật toán vượt khe. Để có thể tìm được lời giải tối ưu cho bài toán sử dụng mạng nơron có mặt lỗi dạng lòng khe, tác giả đã đưa ra mô hình kết hợp

16. 16 thuật toán vượt khe và lan truyền ngược. Đó là cơ sở để cài đặt thành công thủ tục huấn luyện mạng theo phương pháp vượt khe kết hợp với kỹ thuật lan truyền ngược đi tìm bộ trọng số tối ưu. Để chứng minh cho đề xuất này tác giả đã đưa ra một ví dụ về nhận dạng chữ viết tay và có sự so sánh giữa bước học vượt khe với các bước học khác thường hay được sử dụng trong Toolbox của Matlab. Các kết quả mô phỏng cho thấy sự đúng đắn của đề xuất này. CHƢƠNG 3: ĐỀ XUẤT MÔ HÌNH KẾT HỢP GIẢI THUẬT DI TRUYỀN VÀ THUẬT TOÁN VƢỢT KHE ĐỂ CẢI TIẾN QUÁ TRÌNH HỌC CỦA MẠNG NƠRON MLP CÓ MẶT LỖI ĐẶC BIỆT 3.1. Đặt vấn đề Trong quá trình luyện mạng nơron, bộ trọng số khởi tạo ban đầu, có ảnh hưởng cụ thể thế nào đến kết quả của luyện mạng nơron, đặc biệt khi mặt lỗi có dạng lòng khe. Để đánh giá nhân tố này, tác giả thử đi luyện mạng nơron trong một số trường hợp sau: 3.1.1. Khảo sát độ hội tụ của quá trình luyện mạng nơron bằng kỹ thuật lan truyền ngƣợc nguyên thủy với các bộ khởi tạo trọng số ban đầu khác nhau. Để thấy rõ được sự ảnh hưởng của vec-tơ khởi tạo trọng số ban đầu đến độ hội tụ của quá trình luyện mạng nơron ta xét hai ví dụ sau: a). Xét hệ thống phi tuyến tĩnh cần nhận dạng có mô hình toán học như sau: y(u) = 0.6 sin( .u) + 0.3 sin(3. .u) + 0.1 sin (5. .u) Chúng ta phát tín hiệu u(k) = sin(2 .k/250) vào hệ thống trên và đo tín hiệu ra y(k). Sử dụng bộ mẫu (u(k),y(k)) này để luyện mạng. Mạng nơron được dùng là mạng truyền thẳng 3 lớp, có một đầu vào, một đầu ra. Lớp nhập có 8 neural, lớp ẩn có 8 neural, lớp ra có 1 neural, hàm kích hoạt của cả 3 lớp đều là hàm tansig. Sai số cho phép để luyện mạng thành công là 10-5 . Ta sử dụng kỹ thuật lan truyền

17. 17 ngược với bước học cố định bằng 0.2. Bộ trọng số khởi tạo ban đầu là ngẫu nhiên. Bảng 3.1 TT KNLM Sai số (10-6 ) TT KNLM Sai số (10-6 ) 1 66 9.8065 8 24 9.9681 2 11 5.8464 9 45 9.1789 3 28 9.8923 10 62 9.5743 4 22 9.4931 11 55 9.2574 5 46 9.9981 12 37 9.6842 6 29 9.9062 13 29 7.1969 7 207 9.5439 14 60 9.2586 Căn cứ vào bảng 3.1 ta thấy với một thuật toán không đổi, cấu trúc, tham số của mạng chọn như nhau thì kết quả của quá trình luyện mạng phụ thuộc vào bộ khởi tạo trọng số ban đầu. b). Xét hệ thống động học phi tuyến cần nhận dạng có mô hình toán học như sau: y = 0.00005 – 0.05y – 0.0005u – 0.5uy Phát một tín hiệu ngẫu nhiên có giới hạn về biên độ từ 0 đến 2L/sec với thời gian lấy mẫu là 0.1s vào hệ thống trên và đo tín hiệu ra. Lấy tập mẫu vào, ra này để luyện mạng, Tổng thời gian đặt là 100s, do đó sẽ tạo ra được 1000 bộ mẫu vào ra dưới dạng một mảng dữ liệu. Cấu trúc mạng nơron: Mạng gồm có hai lớp: Lớp vào có 4 nơron, hàm kích hoạt là hàm tansig; lớp ra có 1 nơron, hàm kích hoạt là hàm purelin. Ta sử dụng kỹ thuật lan truyền ngược với bước học cố định bằng 0.2. Sai số cho phép để luyện mạng thành công là 10-12 . Bảng 3.2: TT KNLM Sai số (10-12 ) TT KNLM Sai số (10-12 ) 1 210 9.2147 8 301 8.9754

18. 18 2 151 9.6782 9 229 9.2367 3 234 8.6745 10 234 9.2476 4 193 9.3657 11 167 9.9874 5 271 9.2486 12 205 9.5789 6 146 7.6842 13 212 9.3487 7 231 8.6575 14 203 9.3578 Căn cứ vào bảng 3.2 ta thấy với một thuật toán không đổi, cấu trúc, tham số của mạng chọn như nhau thì kết quả của quá trình luyện mạng phụ thuộc vào bộ khởi tạo trọng số ban đầu. 3.1.2. Khảo sát độ hội tụ của quá trình luyện mạng nơron có mặt lỗi đặc biệt bằng kỹ thuật lan truyền ngƣợc kết hợp thuật toán vƣợt khe với các bộ khởi tạo trọng số ban đầu khác nhau. Trong phần này, vẫn sử dụng kỹ thuật lan truyền ngược kết hợp với thuật toán vượt khe để luyện mạng nơron có mặt lỗi dạng lòng khe, tác giả sẽ đi đánh giá sự ảnh hưởng của bộ khởi tạo trọng số ban đầu đến vấn đề tìm nghiệm tối ưu toàn cục. Để minh họa, nhóm tác giả vẫn đề xuất cấu trúc mạng nơ ron để nhận dạng các chữ số: 0, 1, 2, …,9. Trong đó hàm sigmoid được sử dụng với mục đích sinh ra mặt sai số có dạng lòng khe. Để biểu diễn các chữ số, ta sử dụng cấu trúc mạng như hình1.5. Bộ trọng số khởi tạo ban đầu với mạng 3 lớp gồm có ma trận trọng số lớp ẩn có kích thước là 35×5 và ma trận trọng số lớp ra có kích thước là 5×10 được lấy là một số ngẫu nhiên xung quanh điểm 0.5 là trung điểm của hàm kích hoạt sigmoid. Sau khi lập trình và cho luyện mạng 14 lần ta có được bảng 3.3. Bảng 3.3 TT KNLM TT KNLM TT KNLM

19. 19 1 37 6 28 11 38 2 Thất bại 7 44 12 39 3 42 8 35 13 Thất bại 4 33 9 29 14 30 5 35 10 46 Căn cứ vào bảng 3.3 ta thấy với một thuật toán không đổi, cấu trúc, tham số của mạng chọn như nhau; kết quả của quá trình luyện mạng phụ thuộc vào bộ khởi tạo trọng số ban đầu, thậm chí còn có 2 lần luyện mạng thất bại trong tổng số 14 lần luyện mạng. Điều đó được giải thích: do bản chất của giải thuật học lan truyền ngược sai số là phương pháp giảm độ lệch gradient nên việc khởi tạo giá trị ban đầu của bộ trọng số các giá trị nhỏ ngẫu nhiên sẽ làm cho mạng hội tụ về các giá trị cực tiểu khác nhau. Nếu gặp may thì mạng sẽ hội tụ được về giá trị cực tiểu tổng thể, còn nếu không mạng có thể rơi vào cực trị địa phương và không thoát ra được dẫn đến luyện mạng thất bại. Như vậy, thông qua việc nghiên cứu và thực nghiệm trên máy tính cho ta thấy: Với các mặt lỗi thông thường việc khởi tạo bộ trọng số ban đầu ngẫu nhiên trong một khoảng nào đó chỉ ảnh hưởng đến thời gian luyện mạng; còn với mặt lỗi đặc biệt có nhiều cực trị và dạng lòng khe, nó còn có thể làm cho quá trình luyện mạng thất bại do rơi vào cực trị cục bộ vì xuất phát từ vùng không chứa cực trị toàn cục. Đây là một kết luận quan trọng, làm tiền đề cho việc đề xuất phương pháp tính toán bộ khởi tạo trọng số ban đầu thay cho việc khởi tạo ngẫu nhiên, từ đó tăng độ chính xác và tốc độ hội tụ của quá trình luyện mạng nơron. 3.2.Mô hình kết hợp giải thuật di truyền và thuật toán vƣợt khe trong quá trình luyện mạng nơron 3.2.1. Đặt vấn đề

21. 21 3 1042 2578 14 758 – 4 1783 3640 15 – 2647 5 – – 16 968 3378 6 879 – 17 1034 – 7 1102 2102 18 779 3018 8 – 2671 19 890 2781 9 891 – 20 904 2585 10 902 2470 TB: 4 thất bại TB: 6 thất bại11 728 3018 Ta thấy rằng giải thuật di truyền có khả năng đạt được yêu cầu về hội tụ (sai số ≤ 0.1) tức tìm vùng chứa cực trị toàn cục dễ dàng hơn so với kỹ thuật lan truyền ngược sai số. Hay nói cách khác kỹ thuật lan truyền ngược sai số dễ rơi vào vùng chứa cực tiểu cục bộ hơn giải thuật di truyền. Trong 20 lần chạy, GA chỉ có 4 lần không tìm được cực trị toàn cục trong khi đó BP là 6 lần. Vẫn bài toán trên ta thay đổi ngưỡng sai số dừng lặp là 0.001 ta được bảng sau: Bảng 3.5: So sánh GA và BP với sai số là 0.001 TT GA BP TT GA BP 1 – 8019 12 3012 – 2 – 9190 13 – 8601 3 3021 – 14 – 11032 4 – 8701 15 – 9963 5 – – 16 – 3378 6 2371 10923 17 – 9021 7 – 8971 18 – 8 – 9801 19 – – 9 – – 20 – 10914

22. 22 10 – – TB: 15 thất bại TB 7 thất bại11 2038 7781 Qua kết quả này có thể nhận thấy rằng chỉ rất ít trường hợp GA đạt được giá trị sai số mong muốn. Kết hợp kết quả trong bảng 3.4 và 3.5 ta có bảng so sánh khả năng hội tụ của mạng nơron khi thay đổi sai số dừng lặp. Bảng 3.6: So sánh GA và BP với sai số khác nhau Sai số dừng lặp Số lần hội tụ trong 20 lần luyện mạng GA BP 0.1 16 14 0.001 4 13 Nhận xét 1: Nhờ cơ chế tìm kiếm trải rộng, ngẫu nghiên và mang tính chọn lọc tự nhiên nên: GA thường tìm ra được vùng chứa cực trị toàn cục, nhưng khó đạt được cực trị toàn cục. Một mặt ta muốn GA duy trì sự đa dạng quần thể để tránh hội tụ sớm đến cực trị cục bộ; mặt khác, khi “đã khoanh vùng được cực trị toàn cục”, ta muốn GA thu hẹp vùng tìm kiếm để “chỉ ra được cực trị toàn cục”. Mục tiêu thứ nhất thường dễ đạt được bằng cách chọn hàm thích nghi và phương pháp tái tạo quần thể phù hợp. Để đạt được mục tiêu thứ hai đòi hỏi chúng ta phải chia quá trình tiến hóa thành hai giai đoạn, trong giai đoạn hai ta phải chỉnh lại: các toán tử lai, đột biến, tái tạo; phương pháp chọn lọc; đánh giá độ thích nghi; cũng như chỉnh sửa lại các tham số của quá trình tiến hóa để có thể đến cực trị toàn cục. Việc thực thi một mô hình như thế sẽ rất phức tạp. Do đó, cần phải kết hợp GA với các phương pháp tối ưu cục bộ khác. Nhận xét 2: Các phương pháp học trong ANN thực hiện việc “tìm kiếm cục bộ” trong không gian trọng số (dựa trên thông tin về đạo hàm của lỗi) nên có hai nhược điểm. Thứ nhất bộ trọng số thu được

23. 23 thường không là tối ưu toàn cục. Thứ hai quá trình học có thể không hội tụ hoặc hội tụ rất chậm. Do đó, cần phải kết hợp các phương pháp học “mang tính cục bộ” của ANN với các thuật giải “mang tính toàn cục” như thuật giải di truyền. Từ nhận xét 1 và 2, ta thấy rằng có thể kết hợp GA và ANN nhằm nâng cao hiệu quả của ANN. GA sẽ khoanh vùng chứa cực tiểu toàn cục của hàm lỗi, sau đó ANN xuất phát từ bộ trọng số này để tiến đến cực tiểu toàn cục. Trong phần này sẽ trình bày về giải thuật di truyền (GA) kết hợp với thuật toán “vượt khe” để chế ngự quỹ đạo và rút ngắn thời gian của quá trình tìm kiếm tối ưu với mặt sai số phức tạp dạng lòng khe. 3.2.2. Thuật toán Có nhiều cách để kết hợp giải thuật di truyền vào mạng nơron nhưng cách đơn giản và khá hiệu quả là ta thực hiện lai ghép hai giải thuật nối tiếp nhau. Với một cấu trúc mạng cho trước, ta xuất phát bằng giải thuật di truyền, đi tìm tập các trọng số tốt nhất đối với mạng. Một quần thể N chuỗi được khởi tạo ngẫu nhiên. Mỗi chuỗi là một bản mã hoá của một tập trọng số của mạng. Sau G thế hệ tiến hoá, 5% các cá thể tốt nhất trong G thế hệ sẽ được lưu giữ lại. Các cá thể này sau đó sẽ được giải mã và được đưa vào mạng nơron xây nên các mô hình để học. Sau quá trình học, tập trọng số nào cho kết quả dự báo tốt nhất sẽ được giữ lại làm thông số của mạng nơron cho việc dự báo đó. Thuật toán kết hợp giải thuật vượt khe và giải thuật di truyền cho mạng MLP được đề xuất trong hình 3.1. Nó bao gồm hai giai đoạn luyện mạng. Giai đoạn đầu tiên sử dụng thuật toán di truyền với bước truyền thẳng nhằm đẩy nhanh toàn bộ quá trình luyện mạng. Thuật toán di truyền thực hiện tìm kiếm toàn cục và tìm kiếm tối ưu gần điểm ban đầu (trọng lượng vec-tơ) cho

24. 24 giai đoạn thứ hai. Trong đó, mỗi nhiễm sắc thể được sử dụng để mã hóa các trọng số của mạng nơron. Hàm thích nghi (hàm mục tiêu) cho các thuật toán di truyền được xác định là tổng bình phương lỗi (TSSE) của mạng nơron tương ứng. Do đó, bài toán sẽ trở thành tối ưu hóa không giới hạn nhằm tìm một tập hợp các biến quyết định giảm thiểu hàm mục tiêu. Trong giai đoạn thứ 2 sẽ sử dụng kỹ thuật lan truyền ngược với các bước học được thay đổi theo thuật toán vượt khe đã được đề xuất ở hình 2.4. Hình 3.1: Sơ đồ thuật toán kết hợp giải thuật vượt khe và di truyền cho luyện mạng MP 3.3. Áp dụng mô hình kết hợp giải thuật di truyền và thuật toán vƣợt khe trong quá trình luyện mạng nơron vào bài toán nhận dạng

25. 25 Trở lại ví dụ về nhận dạng chữ viết tay 0,1,2,… 9. Cài đặt thuật toán được thực hiện trên Matlab. Các kết quả thực nghiệm khi luyện mạng MLP kết hợp giải thuật vƣợt khe và di truyền. Mạng MLP được luyện với bộ các ký tự mẫu chữ với kích thước 7 x 5. Các giá trị ban đầu như số đầu vào (35), số lượng lớp ẩn (1), số nơron lớp ẩn (5), các kỹ thuật luyện mạng khác nhau, mã hóa đầu vào và đầu ra nhằm khởi tạo các trọng số đã được đề cập ở trên. Các tham số luyện mạng: Kích thước quần thể = 20 Xác suất lai tạo = 0.46 Mã hóa bằng số thực Độ dài nhiễm sắc thể = 225 Độ chính xác mong muốn = 90% Số thế hệ: 20 Lỗi hệ thống mong muốn=0.06 Kết quả luyện mạng như sau: Số thế hệ 1 5 10 15 20 Tổng thích nghi 9.5563 8.1638 6.1383 5.724 5.697 Số chu kỳ luyện 5 10 15 20 33 Tỷ lệ lỗi 93.33% 60.33% 40.67% 37.33% 0% TSSE 0.4956 0.3274 0.1387 0.0864 0.0589 Như vậy, sau 20 thế hệ đã đạt đến yêu cầu của bài toán. Giá trị thích nghi trung bình đạt được là 5.679. Kết quả của giai đoạn 1 được sử dụng để khởi tạo trọng số cho giai đoạn 2. Với sự thay đổi bước học theo giải thuật vượt khe, sau 33 Hình 3.2: Hoạt động của mạng MLP cải tiến

26. 26 chu kỳ luyện mạng lỗi hệ thống đã đạt đến mục đích 0.0589 và độ chính xác của quá trình nhận dạng là 100%. Hoạt động của mạng MLP có kết hợp giải thuật vượt khe và di truyền cho nhận dạng chữ được thể hiện trên hình 3.2 3.4. Kết luận chƣơng 3 Trong chương này, tác giả đề xuất việc sử dụng giải thuật di truyền kết hợp với thuật toán “vượt khe” để cải tiến quá trình luyện mạng nơron có mặt lỗi đặc biệt và minh họa thông qua ứng dụng nhận dạng chữ. Có thể đánh giá được rằng phương pháp này đã tăng khả năng và tốc độ hội tụ của mạng nơron có mặt lỗi dạng “lòng khe”. KẾT LUẬN CHUNG VÀ ĐỀ XUẤT HƢỚNG NGHIÊN CỨU * So sánh luyện mạng nơron có mặt lỗi đặc biệt với các phƣơng pháp khác nhau Qua việc nghiên cứu và thực nghiệm trên máy tính cho ta thấy: với những cấu trúc mạng nơ ron mà mặt lỗi có dạng lòng khe, vẫn sử dụng kỹ thuật lan truyền ngược nhưng việc áp dụng giải thuật di truyền kết hợp với thuật toán “vượt khe” để luyện mạng sẽ cho ta độ chính xác và tốc độ hội tụ nhanh hơn nhiều so với phương pháp gradient. Kết quả nghiên cứu này được giải thích như sau: – Kết quả luyện mạng nơron phụ thuộc rất lớn vào giá trị ban đầu của vec-tơ trọng số. Việc sử dụng giải thuật di truyền thực hiện quá trình tìm kiếm toàn cục cho phép có được vec-tơ trọng số ban đầu tốt cho giai đoạn sau của quá trình luyện mạng. – Khi mặt lỗi đặc biệt có dạng lòng khe, nếu luyện mạng bằng thuật toán gradien liên hợp hay thuật toán Levenberg – Marquardt sẽ chậm hội tụ và gặp phải vấn đề cực trị địa phương. Thuật toán “vượt khe” nhằm tìm kiếm các bước học tối ưu trong giai đoạn 2 của quá trình

27. 27 luyện mạng nên đã khắc phục các nhược điểm này và do đó làm tăng tốc độ hội tụ cũng như độ chính xác của quá trình luyện mạng. Việc sử dụng giải thuật di truyền kết hợp với thuật toán “vượt khe” có thể ứng dụng để luyện một số cấu trúc mạng nơ ron mà có mặt lỗi đặc biệt khác. Vì vậy, kết quả nghiên cứu này có thể ứng dụng cho nhiều bài toán khác trong lĩnh vực viễn thông, điều khiển, và công nghệ thông tin. * Những đóng góp chính của luận án – Đề xuất một dạng thuật toán vượt khe để giải bài toán tối ưu với hàm mục tiêu có dạng đặc biệt, dạng lòng khe. – Phân tích, đánh giá độ hội tụ của quá trình luyện mạng nơron phụ thuộc vào bộ trọng số khởi tạo ban đầu và bước học. – Đề xuất mô hình kết hợp giải thuật di truyền và thuật toán vượt khe trong quá trình luyện mạng nơron có mặt lỗi đặc biệt. Trong đó giải thuật di truyền có vai trò thực hiện quá trình tìm kiếm toàn cục để có được vec-tơ trọng số ban đầu tốt cho giai đoạn sau của quá trình luyện mạng. Còn thuật toán vượt khe là để tìm bước học tối ưu, làm tăng tốc độ hội tụ cũng như độ chính xác của quá trình luyện mạng. – Để kiểm chứng kết quả nghiên cứu, một ví dụ về nhận dạng chữ viết tay đã được đưa ra để luyện mạng với những phương pháp khác nhau. * Đề xuất hƣớng nghiên cứu – Bổ sung vào Toolbox Matlab một lựa chọn tính bước học mới: bước học vượt khe. – Ứng dụng thuật toán này cho một số bài toán trong lĩnh vực điều khiển, tự động hóa và kỹ thuật điện tử. – Phát triển mô hình kết hợp cho các bài toán tối ưu có hàm mục tiêu phức tạp khác.

28. 28 CÁC CÔNG TRÌNH ĐÃ CÔNG BỐ 1. “Reseach and Development of an adaptive control system for extremal systems”; Cong Nguyen Huu, Dung Nguyen Tien, Nga Nguyen Thi Thanh, The 2009 international forum on strategic technologies (IFOST 2009), October 21-23, 2009, Ho Chi Minh city, Vietnam; page 235-238. 2.”Nghiên cứu ứng dụng mạng hồi quy thời gian liên tục trong nhận dạng và điều khiển hệ thống xử lý nước thải”; Nguyễn Hữu Công, Nguyễn Thị Thanh Nga, Phạm Văn Hưng; Tạp chí khoa học công nghệ Đại học Thái Nguyên số 12 tập 74 năm 2010; trang 4-8. 3.Research on the application of genetic algorithm combined with the “cleft- overstep” algorithm for improving learning process of MLP neural network with special error surface.; Cong Nguyen Huu, Nga Nguyen Thi Thanh, Huy Nguyen Phương; The 7th International Conference on Natural Computation (ICNC’11) and the 8th International Conference on Fuzzy Systems and Knowledge Discovery (FSKD’11), 26-28 July, Shanghai, China, 2011; page 222-227. 4.Đề tài nghiên cứu khoa học cấp bộ “Nghiên cứu thuật toán tìm nghiệm tối ưu toàn cục trong quá trình luyện mạng nơron – ứng dụng để nhận dạng, điều khiển đối tượng động học phi tuyến”. Chủ nhiệm đề tài: Nguyễn Thị Thanh Nga, Nghiệm thu chính thức năm 2011. 5.”Research to improve a learning algorithm of neural networks”; Cong Nguyen Huu, Nga Nguyen Thi Thanh,Ngoc Van Dong; Tạp chí Khoa học Công nghệ – Đại học Thái Nguyên, tháng 5 năm 2012; page 53-58. 6.”The Influence of Initial Weights During Neural Network Training”; Cong Nguyen Huu, Nga Nguyen Thi Thanh, Huy Vu Ngoc, Anh Bui Tuan; Tạp chí Khoa học Công nghệ các Trường Đại học Kỹ thuật, No.95 (2013); page 18-25. Trong tổng số 06 công trình tác giả đã công bố, tiêu biểu có: bài báo số 03 được nằm trong danh sách ISI, và đề tài NCKH cấp bộ số 04 mà tác giả làm chủ nhiệm đề tài.

Bài 8: Cấu tạo và tính chất của xương

I – Bài tập nhận thức kiến thức mới

Bài tập 1 (trang 20 VBT Sinh học 8): Cấu tạo hình ống, nan xương ở đầu xương xếp vòng cung có ý nghĩa gì đối với chức năng nâng đỡ của xương?

Trả lời:

– Cấu tạo hình ống làm cho xương nhẹ và vững chắc.

– Đầu xương xếp vòng cung có ý nghĩa phân tán lực làm tăng khả năng chịu lực.

Bài tập 2 (trang 21 VBT Sinh học 8): Quan sát hình 8 – 5 SGK, cho biết vai trò của sụn tăng trưởng.

Trả lời:

Các tế bào ở sụn tăng trưởng phân chia và hoá xương làm xương dài ra. Ở tuổi thiếu niên và nhất là ở tuổi dậy thì, xương phát triển nhanh. Đến tuổi trưởng thành, sụn tăng trường không còn khả năng hóa xương, do đó người không cao thêm.

Bài tập 3 (trang 21 VBT Sinh học 8): Thí nghiệm tìm hiểu thành phần và tính chất của xương:

Trả lời:

1. Hiện tượng xảy ra là có bọt khí nổi lên, điều đó chứng tỏ trong thành phần của xương có muối cacbônat, khi tác dụng với axít sẽ giải phóng khí cacbônic. Sau đó, uốn cong thấy xương mềm dẻo, dễ uốn cong.

2. Đốt một xương đùi ếch khác (hoặc một mẩu xương bất kì) trên ngọn lửa đèn cồn cho đến khi xương không cháy nữa, không còn thấy khói bay lên. Bóp nhẹ phần xương đã đốt thấy tro, đó chính là thành phần chất khoáng.

3. Từ các thí nghiệm có thể rút ra kết luận, xương gồm 2 thành phần: chất hữu cơ (cốt giao) và chất khoáng (canxi) làm cho xương bền chắc và có tính mềm dẻo. Tỉ lệ chất cốt giao thay đổi theo tuổi.

II – Bài tập tóm tắt và ghi nhớ kiến thức cơ bản

Bài tập (trang 21-22 VBT Sinh học 8): Tìm những cụm từ thích hợp điền vào chỗ trống để hoàn thiện các câu sau:

Trả lời:

Cấu tạo xương gồm màng xương, mô xương cứng và mô xương xốp. Xương dài có cấu trúc hình ống, mô xương xốp ở hai đầu xương, trong xương chứa tủy đỏ là nơi sản sinh hồng cầu, khoang xương chứa tủy đỏ (ở trẻ em) hoặc tủy vàng (ở người lớn).

Xương gồm 2 thành phần chính là cốt giao và muối khoáng. Sự kết hợp của hai thành phần này làm cho xương cứng rắn và có tính đàn hồi. Xương lớn lên về bề ngang là nhờ sự phân chia của các tế bào màng xương, xương dài ra nhờ sự phân chia của các tế bào lớp sụn.

III – Bài tập củng cố, hoàn thiện kiến thức

Bài tập 1 (trang 22 VBT Sinh học 8): Xác định các chức năng tương ứng với các phần của xương ở bảng sau bằng cách ghép chữ (a, b, c …) với số (1, 2, 3 …) sao cho phù hợp.

Trả lời:

Bài tập 2 (trang 22 VBT Sinh học 8): Thành phần hóa học của xương có ý nghĩa gì đối với chức năng của xương?

Trả lời:

Thành phần hóa học của xương gồm:

– Chất hữu cơ (hay cốt giao): đảm bảo tính mềm dẻo cho xương.

– Chất vô cơ (hay chất khoáng chủ yếu là canxi): làm cho xương bền chắc.

⇒ Sự kết hợp của 2 thành phần này làm cho xương bền chắc và có tính mềm dẻo.

Bài tập 3 (trang 22 VBT Sinh học 8): Hãy giải thích vì sao xương động vật được hầm thì bở.

Trả lời:

Khi hầm xương bò, lợn … chất cốt giao bị phân hủy. Vì vậy, nước hầm xương thường sánh và ngọt, phần xương còn lại là chất vô cơ (không còn cốt giao nên bở).

Các bài giải vở bài tập Sinh học lớp 8 (VBT Sinh học 8) khác:

Đã có app VietJack trên điện thoại, giải bài tập SGK, SBT Soạn văn, Văn mẫu, Thi online, Bài giảng….miễn phí. Tải ngay ứng dụng trên Android và iOS.

Nhóm học tập facebook miễn phí cho teen 2k7: chúng tôi

Theo dõi chúng tôi miễn phí trên mạng xã hội facebook và youtube:

Bài 41: Cấu tạo và chức năng của da

I – Bài tập nhận thức kiến thức mới

Trả lời:

Bài tập 2 (trang 110-111 VBT Sinh học 8):

1. Vào mùa hanh khô, ta thường thấy có những vảy trắng nhỏ bong ra như phấn ở quần áo. Điều đó giúp cho ta giải thích như thế nào về thành phần lớp ngoài cùng của da?

2. Vì sao da ta luôn mềm mại, khi bị ướt không ngấm nước?

3. Vì sao ta nhận biết được nóng lạnh, độ cứng, mềm của vật mà ta tiếp xúc?

4. Da có phản ứng như thế nào khi trời nóng quá hay lạnh quá?

5. Lớp mỡ dưới da có vai trò gì?

6. Tóc và lông mày có tác dụng gì?

Trả lời:

1. Mùa hanh khô, thường thấy những vảy trắng nhỏ bong ra, đó là tầng sừng ở lớp biểu bì của da. Chúng gồm những tế bào chết đã hóa sừng, xếp sít nhau, dễ bong ra.

2. Da ta luôn mềm mại, khi bị ướt không thấm nước là do dưới da có các mô liên kết chắt chẽ với nhau và có các tuyến tiết chất nhờn.

3. Da có nhiều cơ quan thụ cảm là những đầu mút tế bào thần kinh giúp da nhận biết nóng, lạnh, cứng, mềm, đau đớn…

4. Khi trời quá nóng mao mạch dưới da dãn ra dẫn đến tiết mồ hôi. Khi trời quá lạnh, các mao mạch dưới da co lại dẫn đến cơ chân lông co lại.

5. Lớp mỡ dưới da chứa chất dự trữ, có vai trò cách nhiệt.

6.– Tóc tạo lớp đệm không khí chống tia tử ngoại, điều hòa nhiệt độ.

– Lông mày ngăn nước và mồ hôi xuống mắt.

Bài tập 3 (trang 111 VBT Sinh học 8):

1. Da có những chức năng gì?

2. Đặc điểm nào của da giúp da thực hiện chức năng bảo vệ?

3. Bộ phận nào của da giúp da tiếp nhận các kích thích? Bộ phận nào thực hiện chức năng bài tiết?

4. Da điều hòa thân nhiệt bằng cách nào?

Trả lời:

1. Da có chức năng: bảo vệ cơ thể, điều hòa thân nhiệt, tạo nên vẻ đẹp của con người.

2. Đặc điểm giúp da thực hiện chức năng bảo vệ là: sự co dãn của các mạch máu dưới da, các sợi mô liên kết chặt chẽ với nhau, tuyến nhờn và lớp mỡ dưới da.

3. Bộ phận giúp da tiếp nhận kích thích là thụ quan. Bộ phận thực hiện chức năng bài tiết là tuyến mồ hôi.

4. Da điều hòa thân nhiệt bằng các tiết mồ hôi và co cơ chân lông.

II – Bài tập tóm tắt và ghi nhớ kiến thức cơ bản

Bài tập (trang 112 VBT Sinh học 8): Chọn các từ, cụm từ: 3, chức năng, tầng sừng, bảo vệ cơ thể, các bộ phận, lớp mỡ, các lớp của da, điền vào chỗ trống để hoàn thiện các câu sau:

Trả lời:

Da có cấu tạo gồm 3 lớp: lớp biểu bì có tầng sừng và tầng tế bào sống; lớp bì có các bộ phận giúp da thực hiện chức năng cảm giác, bài tiết, điều hòa thân nhiệt; trong cùng là lớp mỡ dưới da. Da tạo nên vẻ đẹp của người và có chức năng bảo vệ cơ thể, điều hòa thân nhiệt, các lớp của da đều phối hợp thực hiện chức năng này.

III – Bài tập củng cố, hoàn thiện kiến thức

Bài tập 1 (trang 112 VBT Sinh học 8): Da có cấu tạo như thế nào? Có nên trang điểm bằng cách lạm dụng kem phấn, nhổ lông mày, dùng bút chì kẻ lông mày tạo dáng không? Vì sao?

Trả lời:

Cấu tạo da gồm 3 lớp : lớp biểu bì, lớp bì và lớp mỡ dưới da.

– Lớp biểu bì gồm tầng sừng và tầng tế bào sống. Ở ngoài cùng là tầng sừng gồm những tế bào chết đã hóa sừng, xếp xít nhau, dễ bong ra. Dưới tầng sừng là lớp tế bào sống có khả năng phân chia tạo thành tế bào mới thay thế các tế bào ở lớp sừng bong ra, trong tế bào có chứa các hạt sắc tố tạo nên màu da.

– Phần dưới lớp tế bào sống là lớp bì cấu tạo từ các sợi ô liên kết bện chặt trong đó có các thụ quan, tuyến mồ hôi, tuyến nhờn, lông và bao lông, cơ co chân lông, mạch máu.

– Lớp mỡ dưới da chứa mỡ dự trữ có vai trò cách nhiệt.

Lông mày có vai trò không cho mồ hôi và nước chảy xuống mắt. Vì vậy, không nên lạm dụng kem phấn, nhổ lông mày, dùng bút chì kẻ lông mày.

Bài tập 2 (trang 112 VBT Sinh học 8): Chọn phương án đúng nhất bằng cách điền dấu × vào ô ở đầu câu.

Trả lời:

Chức năng của da là:

a) Bảo vệ cơ thể, nó không thấm nước và ngăn cách không cho vi khuẩn đột nhập vào cơ thể.

b) Phân chia tế bào mới, trong tế bào có chứa các hạt sắc tố tạo nên màu da.

c) Thực hiện cảm giác, bài tiết, điều hòa thân nhiệt, chứa mỡ dự trữ và cách nhiệt.

e) Chỉ a và c đúng.

Các bài giải vở bài tập Sinh học lớp 8 (VBT Sinh học 8) khác:

Đã có app VietJack trên điện thoại, giải bài tập SGK, SBT Soạn văn, Văn mẫu, Thi online, Bài giảng….miễn phí. Tải ngay ứng dụng trên Android và iOS.

Nhóm học tập facebook miễn phí cho teen 2k7: chúng tôi

Theo dõi chúng tôi miễn phí trên mạng xã hội facebook và youtube: