Mạng nơ-ron trong trí tuệ nhân tạo là gì?

Mạng nơ-ron trong trí tuệ nhân tạo là gì?

Mạng nơ-ron nghe có vẻ bí ẩn cho đến khi bạn hiểu rõ hơn. Nếu bạn từng tự hỏi mạng nơ-ron trong trí tuệ nhân tạo là gì? và liệu nó chỉ là toán học được khoác lên một chiếc mũ hoa mỹ, thì bạn đã đến đúng chỗ. Chúng ta sẽ cùng tìm hiểu một cách thực tế, xen kẽ một vài chi tiết thú vị, và tất nhiên - một vài biểu tượng cảm xúc. Sau bài viết này, bạn sẽ hiểu được các hệ thống này là gì, tại sao chúng hoạt động, chúng thất bại ở đâu và làm thế nào để thảo luận về chúng mà không cần phải nói vòng vo.

Những bài viết bạn có thể muốn đọc sau bài này:

🔗 Thiên kiến ​​trong trí tuệ nhân tạo là gì?
Hiểu rõ sự thiên vị trong các hệ thống AI và các chiến lược để đảm bảo tính công bằng.

🔗 Trí tuệ nhân tạo dự đoán là gì?
Trí tuệ nhân tạo dự đoán sử dụng các mô hình như thế nào để dự báo kết quả tương lai.

🔗 AI trainer là gì?
Khám phá vai trò và trách nhiệm của các chuyên gia đào tạo trí tuệ nhân tạo.

🔗 Thị giác máy tính trong trí tuệ nhân tạo là gì?
Cách trí tuệ nhân tạo diễn giải và phân tích dữ liệu hình ảnh thông qua thị giác máy tính.

Mạng nơ-ron trong trí tuệ nhân tạo là gì? Câu trả lời trong 10 giây ⏱️

Mạng nơ-ron là một chồng các đơn vị tính toán đơn giản gọi là nơ-ron truyền các con số về phía trước, điều chỉnh sức mạnh kết nối của chúng trong quá trình huấn luyện và dần dần học các mẫu trong dữ liệu. Khi bạn nghe nói về học sâu , điều đó thường có nghĩa là một mạng nơ-ron với nhiều lớp xếp chồng lên nhau, tự động học các đặc điểm thay vì bạn phải tự tay mã hóa chúng. Nói cách khác: rất nhiều mảnh toán học nhỏ, được sắp xếp khéo léo, được huấn luyện trên dữ liệu cho đến khi chúng hữu ích [1].

Điều gì làm cho mạng nơ-ron trở nên hữu ích? ✅

  • Khả năng biểu diễn : Với kiến ​​trúc và kích thước phù hợp, mạng có thể xấp xỉ các hàm cực kỳ phức tạp (xem Định lý Xấp xỉ Toàn cầu) [4].

  • Học tập từ đầu đến cuối : Thay vì thiết kế thủ công các tính năng, mô hình sẽ khám phá ra chúng [1].

  • Khái quát hóa : Một mạng được điều chỉnh tốt không chỉ ghi nhớ mà còn hoạt động trên dữ liệu mới, chưa từng thấy [1].

  • Khả năng mở rộng : Các tập dữ liệu lớn hơn cùng với các mô hình lớn hơn thường tiếp tục cải thiện kết quả… cho đến giới hạn thực tế như khả năng tính toán và chất lượng dữ liệu [1].

  • Khả năng chuyển giao : Các tính năng được học trong một nhiệm vụ có thể giúp ích cho nhiệm vụ khác (học chuyển giao và tinh chỉnh) [1].

Ghi chú ngắn gọn (ví dụ): Một nhóm nhỏ chuyên phân loại sản phẩm thay thế các đặc trưng được xây dựng thủ công bằng một mạng CNN nhỏ gọn, thêm các phép tăng cường đơn giản (lật/cắt ảnh), và thấy lỗi xác thực giảm xuống - không phải vì mạng này "thần kỳ", mà vì nó đã học được nhiều đặc trưng hữu ích hơn trực tiếp từ các điểm ảnh.

“Mạng nơ-ron trong trí tuệ nhân tạo là gì?” bằng ngôn ngữ đơn giản, kèm theo một phép ẩn dụ hơi khó hiểu 🍞

Hãy hình dung một dây chuyền làm bánh. Nguyên liệu được đưa vào, công nhân điều chỉnh công thức, người nếm thử phàn nàn, và nhóm lại cập nhật công thức. Trong một mạng lưới, đầu vào chảy qua các lớp, hàm mất mát đánh giá đầu ra và độ dốc điều chỉnh trọng số để làm tốt hơn vào lần sau. Không hoàn hảo như một phép ẩn dụ - bánh mì không thể phân biệt được - nhưng nó vẫn tồn tại [1].

Cấu trúc giải phẫu của mạng lưới thần kinh 🧩

  • Nơron : Những máy tính tí hon áp dụng phép cộng có trọng số và hàm kích hoạt.

  • Trọng số & độ lệch : Các núm điều chỉnh xác định cách các tín hiệu kết hợp với nhau.

  • Các lớp : Lớp đầu vào nhận dữ liệu, các lớp ẩn biến đổi dữ liệu, lớp đầu ra đưa ra dự đoán.

  • Các hàm kích hoạt : Các biến thể phi tuyến tính như ReLU, sigmoid, tanh và softmax giúp việc học trở nên linh hoạt hơn.

  • Hàm mất mát : Một chỉ số đánh giá mức độ sai lệch của dự đoán (entropy chéo cho phân loại, MSE cho hồi quy).

  • Bộ tối ưu hóa : Các thuật toán như SGD hoặc Adam sử dụng đạo hàm để cập nhật trọng số.

  • Chuẩn hóa (Regularization) : Các kỹ thuật như dropout hoặc weight decay được sử dụng để ngăn chặn hiện tượng quá khớp (overfitting) của mô hình.

Nếu bạn muốn cách xử lý chính thức (nhưng vẫn dễ đọc), sách giáo khoa mở Deep Learning bao gồm toàn bộ các khía cạnh: nền tảng toán học, tối ưu hóa và khái quát hóa [1].

Các chức năng kích hoạt, tóm tắt ngắn gọn nhưng hữu ích ⚡

  • ReLU : Giá trị bằng 0 cho số âm, giá trị tuyến tính cho số dương. Đơn giản, nhanh chóng, hiệu quả.

  • Hàm Sigmoid : Nén các giá trị giữa 0 và 1 - hữu ích nhưng có thể bị bão hòa.

  • Tanh : Giống như hàm sigmoid nhưng đối xứng qua điểm 0.

  • Softmax : Chuyển đổi điểm số thô thành xác suất giữa các lớp.

Bạn không cần phải ghi nhớ mọi hình dạng đường cong - chỉ cần biết những sự đánh đổi và các giá trị mặc định phổ biến [1, 2].

Quá trình học tập thực sự diễn ra như thế nào: lan truyền ngược, nhưng không hề đáng sợ 🔁

  1. Luồng dữ liệu tiến lên: Dữ liệu được truyền từng lớp để tạo ra dự đoán.

  2. Tính toán tổn thất : So sánh dự đoán với kết quả thực tế.

  3. Lan truyền ngược : Tính toán đạo hàm của hàm mất mát đối với từng trọng số bằng cách sử dụng quy tắc chuỗi.

  4. Cập nhật : Trình tối ưu hóa thay đổi trọng số một chút.

  5. Lặp lại : Nhiều chu kỳ. Mô hình học hỏi dần dần.

Để có trực quan thực tế với hình ảnh và giải thích gần giống mã, hãy xem ghi chú CS231n kinh điển về lan truyền ngược và tối ưu hóa [2].

Tổng quan về các họ mạng nơ-ron chính 🏡

  • Mạng nơ-ron truyền thẳng (MLP) : Loại đơn giản nhất. Dữ liệu chỉ di chuyển theo hướng tiến về phía trước.

  • Mạng nơ-ron tích chập (CNN) : Tuyệt vời cho hình ảnh nhờ các bộ lọc không gian phát hiện các cạnh, kết cấu, hình dạng [2].

  • Mạng nơ-ron hồi quy (RNN) và các biến thể : Được xây dựng cho các chuỗi như văn bản hoặc chuỗi thời gian bằng cách duy trì tính trật tự [1].

  • Máy biến áp : Sử dụng sự chú ý để mô hình hóa các mối quan hệ giữa các vị trí trong một chuỗi cùng một lúc; chiếm ưu thế trong ngôn ngữ và hơn thế nữa [3].

  • Mạng nơ-ron đồ thị (GNN) : Hoạt động trên các nút và cạnh của đồ thị - hữu ích cho các phân tử, mạng xã hội, đề xuất [1].

  • Bộ mã hóa tự động & VAE : Học các biểu diễn nén và tạo ra các biến thể [1].

  • Mô hình tạo sinh : Từ GAN đến mô hình khuếch tán, được sử dụng cho hình ảnh, âm thanh, thậm chí cả mã [1].

Các ghi chú CS231n đặc biệt hữu ích cho CNN, trong khi bài báo Transformer là nguồn chính được sử dụng cho các mô hình dựa trên cơ chế chú ý [2, 3].

Bảng so sánh: các loại mạng nơ-ron phổ biến, đối tượng sử dụng, chi phí và lý do chúng hiệu quả 📊

Công cụ / Loại Khán giả Giá cả tương đối Lý do nó hiệu quả
Mạng nơ-ron truyền thẳng (MLP) Người mới bắt đầu, nhà phân tích Thấp-trung bình Đơn giản, linh hoạt, nền tảng tốt
CNN Các nhóm tầm nhìn Trung bình Các mẫu cục bộ + chia sẻ tham số
RNN / LSTM / GRU Những người theo trình tự Trung bình Bộ nhớ tạm thời… ghi lại trật tự
Máy biến áp Xử lý ngôn ngữ tự nhiên (NLP), đa phương thức Trung bình-cao Sự chú ý tập trung vào các mối quan hệ có liên quan
GNN Các nhà khoa học, recsys Trung bình Việc truyền tải thông điệp trên đồ thị cho thấy cấu trúc
Bộ mã hóa tự động / VAE Các nhà nghiên cứu Thấp-trung bình Học các biểu diễn nén
GAN / Khuếch tán Phòng thí nghiệm sáng tạo Trung bình-cao Phép thuật khử nhiễu đối kháng hoặc lặp đi lặp lại

Ghi chú: Giá cả phụ thuộc vào khả năng tính toán và thời gian; kết quả thực tế có thể khác nhau. Một hoặc hai ô mã nguồn được cố ý tạo ra để gây ra hiện tượng "nhiều lời".

“Mạng nơ-ron trong trí tuệ nhân tạo là gì?” so với các thuật toán học máy cổ điển ⚖️

  • Kỹ thuật đặc trưng : ML cổ điển thường dựa vào các đặc trưng thủ công. Mạng nơ-ron học các đặc trưng tự động - một lợi thế lớn cho dữ liệu phức tạp [1].

  • Nhu cầu dữ liệu : Mạng lưới thường hoạt động tốt hơn với nhiều dữ liệu hơn; dữ liệu nhỏ có thể ưu tiên các mô hình đơn giản hơn [1].

  • Tính toán : Mạng lưới rất thích các bộ tăng tốc như GPU [1].

  • Giới hạn hiệu suất : Đối với dữ liệu không có cấu trúc (hình ảnh, âm thanh, văn bản), mạng sâu có xu hướng chiếm ưu thế [1, 2].

Quy trình đào tạo thực sự hiệu quả trong thực tế 🛠️

  1. Xác định mục tiêu : Phân loại, hồi quy, xếp hạng, tạo sinh - chọn một hàm mất mát phù hợp.

  2. Xử lý dữ liệu : Chia thành huấn luyện/xác thực/kiểm tra. Chuẩn hóa các đặc trưng. Cân bằng các lớp. Đối với hình ảnh, hãy cân nhắc các biện pháp tăng cường như lật, cắt, nhiễu nhỏ.

  3. Lựa chọn kiến ​​trúc : Bắt đầu đơn giản. Chỉ bổ sung dung lượng khi cần thiết.

  4. Chu trình huấn luyện : Chia dữ liệu thành các lô. Truyền tiến. Tính toán tổn thất. Lan truyền ngược. Cập nhật. Ghi nhật ký các chỉ số.

  5. Điều chỉnh : Tỷ lệ bỏ học, giảm cân theo thời gian, dừng học sớm.

  6. Đánh giá : Sử dụng tập dữ liệu xác thực cho các siêu tham số. Giữ lại một tập dữ liệu kiểm thử để kiểm tra lần cuối.

  7. Vận chuyển cẩn thận : Theo dõi độ lệch hướng, kiểm tra độ nghiêng, lập kế hoạch điều chỉnh hướng.

Đối với các bài hướng dẫn từ đầu đến cuối, hướng đến mã nguồn với lý thuyết vững chắc, sách giáo khoa mở và ghi chú CS231n là những nguồn đáng tin cậy [1, 2].

Hiện tượng quá khớp dữ liệu, khái quát hóa và những vấn đề khó chịu khác 👀

  • Hiện tượng quá khớp (Overfitting) : Mô hình ghi nhớ những đặc điểm riêng của quá trình huấn luyện. Khắc phục bằng cách sử dụng thêm dữ liệu, tăng cường chuẩn hóa (regularization) hoặc đơn giản hóa kiến ​​trúc mô hình.

  • Hiện tượng thiếu khớp (Underfitting) : Mô hình quá đơn giản hoặc quá trình huấn luyện quá dè dặt. Cần tăng dung lượng hoặc huấn luyện lâu hơn.

  • Rò rỉ dữ liệu : Thông tin từ tập dữ liệu kiểm thử lọt vào tập dữ liệu huấn luyện. Hãy kiểm tra kỹ lại các lần chia tập dữ liệu.

  • Hiệu chỉnh kém : Một mô hình tự tin nhưng lại sai là rất nguy hiểm. Hãy xem xét việc hiệu chỉnh hoặc sử dụng trọng số tổn thất khác.

  • Sự dịch chuyển phân phối : Dữ liệu thực tế đang di chuyển. Theo dõi và thích ứng.

Để hiểu rõ hơn về lý thuyết tổng quát hóa và điều chỉnh, hãy tham khảo các tài liệu tham khảo tiêu chuẩn [1, 2].

An toàn, khả năng giải thích và triển khai có trách nhiệm 🧭

Mạng nơ-ron có thể đưa ra những quyết định quan trọng. Việc chúng thể hiện tốt trên bảng xếp hạng là chưa đủ. Bạn cần có các bước quản trị, đo lường và giảm thiểu trong suốt vòng đời. Khung quản lý rủi ro AI của NIST nêu rõ các chức năng thực tế - QUẢN TRỊ, LẬP BẢN ĐỒ, ĐO LƯỜNG, QUẢN LÝ - để giúp các nhóm tích hợp quản lý rủi ro vào thiết kế và triển khai [5].

Một vài gợi ý nhanh:

  • Kiểm tra tính thiên vị : Đánh giá trên nhiều nhóm nhân khẩu học khác nhau khi thích hợp và hợp pháp.

  • Khả năng diễn giải : Sử dụng các kỹ thuật như độ nổi bật hoặc gán thuộc tính đặc trưng. Chúng không hoàn hảo, nhưng vẫn hữu ích.

  • Giám sát : Thiết lập cảnh báo cho các trường hợp giảm đột ngột số liệu hoặc dữ liệu thay đổi bất thường.

  • Sự giám sát của con người : Hãy để con người tham gia vào quá trình ra quyết định đối với những quyết định có tác động lớn. Không cần sự can thiệp quá mức, chỉ cần tuân thủ các quy trình thông thường.

Những câu hỏi thường gặp mà bạn thầm thắc mắc 🙋

Về cơ bản, mạng nơ-ron có phải là một bộ não không?

Lấy cảm hứng từ bộ não, đúng vậy - nhưng được đơn giản hóa. Các nơ-ron trong mạng là các hàm toán học; các nơ-ron sinh học là các tế bào sống với động lực phức tạp. Cảm giác tương tự, nhưng vật lý rất khác nhau [1].

Tôi cần bao nhiêu lớp?

Hãy bắt đầu từ những điều nhỏ. Nếu bạn bị thiếu dữ liệu, hãy tăng chiều rộng hoặc chiều sâu. Nếu bạn bị quá khớp, hãy điều chỉnh hoặc giảm dung lượng. Không có con số kỳ diệu nào; chỉ có đường cong xác thực và sự kiên nhẫn [1].

Tôi có luôn cần card đồ họa (GPU) không?

Không phải lúc nào cũng vậy. Các mô hình nhỏ trên dữ liệu vừa phải có thể được huấn luyện trên CPU, nhưng đối với hình ảnh, các mô hình văn bản lớn hoặc các tập dữ liệu lớn, bộ tăng tốc sẽ tiết kiệm rất nhiều thời gian [1].

Tại sao người ta lại nói sự chú ý rất mạnh mẽ?

Bởi vì sự chú ý cho phép các mô hình tập trung vào các phần liên quan nhất của đầu vào mà không cần phải tuân theo thứ tự nghiêm ngặt. Nó nắm bắt được các mối quan hệ toàn cục, điều này rất quan trọng đối với các nhiệm vụ ngôn ngữ và đa phương thức [3].

Liệu câu hỏi “Mạng nơ-ron trong trí tuệ nhân tạo là gì?” có khác với “học sâu là gì?”

Học sâu là phương pháp tiếp cận rộng hơn sử dụng mạng nơ-ron sâu. Vì vậy, việc hỏi " Mạng nơ-ron trong AI là gì?" cũng giống như hỏi về nhân vật chính; học sâu là toàn bộ bộ phim [1].

Những lời khuyên thiết thực, kèm theo một chút ý kiến ​​cá nhân 💡

  • Nên ưu tiên các mô hình cơ bản đơn giản trước. Ngay cả một mạng perceptron đa lớp nhỏ cũng có thể cho bạn biết liệu dữ liệu có thể học được hay không.

  • quy trình xử lý dữ liệu của bạn . Nếu bạn không thể chạy lại nó, bạn không thể tin tưởng vào nó.

  • Tốc độ học tập quan trọng hơn bạn nghĩ. Hãy thử lập kế hoạch học tập. Khởi động có thể giúp ích.

  • sự đánh đổi giữa các kích thước lô . Các lô lớn hơn giúp ổn định độ dốc nhưng có thể cho kết quả khác nhau.

  • Khi bối rối, hãy vẽ biểu đồ đường cong giảm cân và chuẩn cân nặng . Bạn sẽ ngạc nhiên khi thấy câu trả lời thường nằm ngay trong các biểu đồ đó.

  • Các giả định về tài liệu. Bạn của tương lai sẽ quên mọi thứ - rất nhanh [1, 2].

Phân tích chuyên sâu: Vai trò của dữ liệu, hay tại sao dữ liệu đầu vào kém chất lượng vẫn dẫn đến kết quả đầu ra kém chất lượng 🗑️➡️✨

Mạng nơ-ron không tự động sửa chữa dữ liệu bị lỗi. Nhãn bị lệch, lỗi chú thích hoặc lấy mẫu hẹp đều sẽ ảnh hưởng đến mô hình. Hãy chọn lọc, kiểm tra và bổ sung. Và nếu bạn không chắc mình cần thêm dữ liệu hay một mô hình tốt hơn, câu trả lời thường đơn giản đến mức khó chịu: cả hai - nhưng hãy bắt đầu với chất lượng dữ liệu [1].

“Mạng nơ-ron trong trí tuệ nhân tạo là gì?” - những định nghĩa ngắn gọn bạn có thể sử dụng lại 🧾

  • Mạng nơ-ron là một bộ xấp xỉ hàm nhiều lớp học các mẫu phức tạp bằng cách điều chỉnh trọng số bằng cách sử dụng tín hiệu gradient [1, 2].

  • Đó là một hệ thống chuyển đổi đầu vào thành đầu ra thông qua các bước phi tuyến tính liên tiếp, được huấn luyện để giảm thiểu tổn thất [1].

  • Đó là một phương pháp mô hình hóa linh hoạt, cần nhiều dữ liệu, phát triển mạnh nhờ các đầu vào không có cấu trúc như hình ảnh, văn bản và âm thanh [1, 2, 3].

Tóm tắt ngắn gọn và lời kết 🎯

Nếu ai đó hỏi bạn Mạng nơ-ron trong AI là gì? thì đây là câu trả lời ngắn gọn: mạng nơ-ron là một tập hợp các đơn vị đơn giản biến đổi dữ liệu từng bước, học cách biến đổi bằng cách giảm thiểu tổn thất và theo dõi độ dốc. Chúng mạnh mẽ vì chúng có khả năng mở rộng, tự động học các đặc điểm và có thể biểu diễn các hàm rất phức tạp [1, 4]. Chúng tiềm ẩn rủi ro nếu bạn bỏ qua chất lượng dữ liệu, quản trị hoặc giám sát [5]. Và chúng không phải là phép thuật. Chỉ là toán học, tính toán và kỹ thuật tốt - với một chút tinh tế.

Tài liệu tham khảo thêm, được lựa chọn kỹ lưỡng (không phải tài liệu trích dẫn)

Tài liệu tham khảo

[1] Goodfellow, I., Bengio, Y., & Courville, A. Deep Learning . Nhà xuất bản MIT. Phiên bản trực tuyến miễn phí: đọc thêm

[2] Stanford CS231n. Mạng nơ-ron tích chập cho nhận dạng hình ảnh (ghi chú khóa học): đọc thêm

[3] Vaswani, A., Shazeer, N., Parmar, N., et al. (2017). Chú ý là tất cả những gì bạn cần . NeurIPS. arXiv: đọc thêm

[4] Cybenko, G. (1989). Xấp xỉ bằng sự chồng chất của một hàm sigmoid . Toán học về điều khiển, tín hiệu và hệ thống , 2, 303–314. Springer: đọc thêm

[5] NIST. Khung quản lý rủi ro AI (AI RMF) : đọc thêm

Tìm kiếm những công nghệ AI mới nhất tại Cửa hàng Trợ lý AI chính thức

Về chúng tôi

Quay lại blog