CEO của Anthropic vạch ra kế hoạch làm chậm quá trình phát triển trí tuệ nhân tạo
Dario Amodei vừa yêu cầu ngành công nghiệp… hãy chậm lại. Không phải dừng hẳn. Mà là điều chỉnh nhịp độ. Một bài luận dài, ba bước, và một lời cảnh báo rằng quá trình tự cải tiến liên tục đang diễn ra nhanh hơn cả tốc độ mà người lớn có thể kiểm định.
Anthropic đang đơn phương mời các nhà đánh giá nội bộ vào bên trong tòa nhà - cấp thẻ nhân viên, bàn làm việc, máy tính xách tay và quyền công bố kết quả mà không cần qua bộ lọc truyền thông. Sau đó, họ muốn các phòng thí nghiệm dân chủ phối hợp các tiêu chuẩn an toàn. Rồi bằng cách nào đó, đạt được thỏa thuận với các chính phủ độc tài. Trên lý thuyết thì dễ, nhưng thực tế thì khó.
Ông ấy vẫn nói trí tuệ nhân tạo có thể là một phép màu. Ông ấy cũng nói rằng một nhóm người máy tinh vi nhưng có khả năng hơn có thể chiếm quyền kiểm soát internet bằng một mạng botnet dai dẳng và gây thiệt hại hàng trăm tỷ đô la. Hai câu đó đứng cạnh nhau và chúng không hề ăn khớp với nhau.
Ồ - và ông ấy muốn được miễn trừ chống độc quyền ở mức độ hẹp để các cuộc trò chuyện về an toàn không tự gây ra vấn đề pháp lý. Việc lắp đặt phanh đi kèm với thủ tục giấy tờ. Tất nhiên rồi.
Sam Altman xác nhận OpenAI sẽ không niêm yết cổ phiếu trong năm nay, cho rằng việc IPO vào thời điểm này là "không khôn ngoan" do những lo ngại về an toàn của AI
Altman đã ngồi xuống cho một cuộc phỏng vấn độc quyền và hủy bỏ lịch trình niêm yết. Ông nói rằng việc IPO ngay bây giờ sẽ là "thời điểm không khôn ngoan". Công tác an toàn chưa hoàn tất. Sự đồng bộ chưa hoàn tất. Xã hội chưa sẵn sàng. Khi họ hỏi dồn ông, câu trả lời là không phải năm nay.
Các chủ ngân hàng đã bắt đầu để mắt đến. Hồ sơ mật đã được nộp. Giờ đây, CEO nói rằng họ còn rất nhiều việc phải làm trước tiên, bao gồm cả việc tìm ra cách thức hợp tác giữa ngành công nghiệp và chính phủ. Giọng ông ấy có vẻ hơi nhẹ nhõm khi phải chờ đợi.
Ông ấy cũng nói rằng việc xây dựng trí tuệ nhân tạo vượt ngoài tầm kiểm soát của con người là "hoàn toàn" khả thi - rồi thề sẽ tạm dừng việc huấn luyện nếu đó là con đường ông ấy chọn. Thật táo bạo. Cũng có thể là tiện lợi. Có lẽ cả hai. Ông ấy lập luận rằng sự phức tạp giữa các tổ chức phi lợi nhuận và lợi nhuận tồn tại để họ có thể đưa ra những quyết định rõ ràng không vì lợi ích của cổ đông. Chúng ta hãy xem liệu câu nói đó có còn đúng khi được xem xét trong một bản cáo bạch thực tế hay không.
Sam Altman của OpenAI hé lộ về một thỏa thuận với các công ty AI khác để giải quyết các rủi ro về an toàn
Cùng một cuộc phỏng vấn, nhưng tiêu đề khác, và đây là lời thì thầm. Việc ngồi xuống nói chuyện với Amodei, Musk và Demis Hassabis là bước đi tiếp theo tất yếu. Altman nói: ông ấy nghĩ điều đó sẽ xảy ra. Ông ấy sẽ không thông báo trước về các cuộc đàm phán riêng tư. Nhưng rồi ông ấy lại vô tình thông báo trước về chúng.
Ông nói rằng rủi ro thảm họa ở mức hai chữ số là không thể chấp nhận được. Các mô hình chưa được công bố hiện nay đã có khả năng đến mức việc tiếp tục phát triển mà không có khả năng giám sát tốt hơn là hành động liều lĩnh. Thỏa thuận thực tế và thông tin rò rỉ được cẩn thận có thể trông giống hệt nhau từ bên ngoài.
Các nhân viên đã được nghe một phiên bản của điều này trong nội bộ. Còn bên ngoài thì mọi chuyện vẫn chưa rõ ràng. Nếu điều đó xảy ra thì tốt. Nếu không, câu nói đó vẫn phát huy tác dụng.
Sam Altman ủng hộ lời kêu gọi giảm tốc độ của Dario Amodei và cho biết OpenAI cũng sẽ làm như vậy
Vài giờ sau bài luận, Altman đăng tải thông tin rằng OpenAI sẽ thực hiện đúng cam kết về trình đánh giá nhúng. Quyền truy cập tương tự như nhân viên. Sẽ chia sẻ thêm sớm. Musk viết ba từ: "Dario nói đúng." Ba CEO đối thủ. Một khẩu hiệu. Năng lượng cuối tuần bất ổn.
Sự phối hợp và kịch nghệ có thể song hành cùng nhau. Bước đầu tiên trong kế hoạch của Amodei giờ đây đã nhận được sự đồng thuận công khai từ hai trong số những phòng thí nghiệm lớn nhất. Hugging Face - đúng vậy, chính là Hugging Face đó - đã yêu cầu tham gia chương trình đánh giá và khởi động một sáng kiến có tên là Sáng kiến Liên kết Mở (Open Alignment Initiative). Minh bạch từ những người bị tấn công mạng. Thơ mộng, hay đầy ẩn ý?.
Xét cho cùng, châu Âu không có ai để xin miễn trừ theo kiểu Mỹ. Brussels đã ngừng cấp miễn trừ cá nhân từ lâu rồi. Vì vậy, thỏa thuận là kiểu Mỹ. Còn phần còn lại của bản đồ thì… chẳng mấy rõ ràng.
OpenAI chỉ muốn chiến thắng
Các nhà toán học không hề có tâm trạng ăn mừng sau một cuối tuần phỏng vấn. Cuộc chạy đua tìm ra phương trình Navier-Stokes của OpenAI - với khoảng mười nghìn tác nhân, hàng chục triệu đô la chi phí tính toán, kéo dài tám mươi tám giờ - trông giống như một cuộc săn lùng chiến lợi phẩm từ bên trong. Các nhà toán học muốn có được sự thấu hiểu. Còn phòng thí nghiệm, họ cứ nói mãi, muốn giành chiến thắng.
Tristan Buckmaster nói với họ rằng OpenAI đã đề nghị cung cấp sức mạnh tính toán không giới hạn và quyền tác giả duy nhất nếu anh ta chấm dứt hợp tác với người cộng tác từ Anthropic. Anh ta gọi đó là một khoản hối lộ. Anh ta đã từ chối. OpenAI khẳng định chắc chắn rằng những lời nhắc nhở của anh ta trên Codex không thể ảnh hưởng đến hệ thống. Anh ta không tin điều đó. Andreas Thom vẫn tự hỏi liệu những cuộc trò chuyện trên ChatGPT về công việc của chính anh ta có cung cấp dữ liệu cho mô hình được xây dựng dựa trên đó sau này hay không. Chỉ có công ty mới biết. Anh ta nghi ngờ ngay cả họ cũng không biết.
Và điều bất ngờ là: OpenAI cho biết họ đã đạt được tiến bộ đáng kể trong một bài toán khác của Giải thưởng Thiên niên kỷ. Bài toán đó là gì thì vẫn chưa được tiết lộ. Dù sao thì Clay vẫn cần một thời gian dài để cộng đồng chấp nhận. Vì vậy, chưa ai "thắng" cả. Họ chỉ đang chạy đua để giải bài toán tiếp theo thôi. Thật thú vị.
Câu hỏi thường gặp
Giám đốc điều hành của Anthropic, Dario Amodei, có kế hoạch gì để thúc đẩy sự phát triển của trí tuệ nhân tạo?
Amodei đã công bố một bài luận dài kêu gọi ngành công nghiệp này giảm tốc độ - chứ không phải dừng lại - bởi vì quá trình tự cải tiến liên tục đang diễn ra nhanh hơn khả năng theo kịp của các kiểm toán viên. Bước đầu tiên là đơn phương mời các nhà đánh giá nội bộ vào Anthropic với thẻ nhân viên, bàn làm việc, máy tính xách tay và quyền công bố kết quả mà không cần qua bộ lọc truyền thông. Sau đó, ông muốn các phòng thí nghiệm dân chủ phối hợp các tiêu chuẩn an toàn và cuối cùng là một thỏa thuận nào đó với các chính phủ độc tài. Ông cũng muốn có một sự miễn trừ chống độc quyền hẹp để các cuộc thảo luận về an toàn không tự trở thành vấn đề pháp lý.
Vì sao Sam Altman lại nói rằng OpenAI sẽ không IPO trong năm nay?
Trong một cuộc phỏng vấn độc quyền, Altman cho biết việc IPO vào thời điểm này là không khôn ngoan vì công tác an toàn, sự đồng bộ và sự sẵn sàng của xã hội vẫn chưa hoàn tất. Khi được hỏi kỹ hơn, ông xác nhận rằng việc này sẽ không diễn ra trong năm nay mặc dù các ngân hàng đang để mắt đến và đã có một hồ sơ mật được nộp. Ông lập luận rằng cấu trúc phi lợi nhuận/lợi nhuận tồn tại để OpenAI có thể đưa ra những quyết định không rõ ràng là vì lợi ích của cổ đông. Ông cũng nói rằng việc xây dựng trí tuệ nhân tạo vượt ngoài tầm kiểm soát của con người là hoàn toàn khả thi và cam kết sẽ tạm dừng quá trình huấn luyện nếu đó là con đường ông lựa chọn.
Liệu Altman có ám chỉ đến một thỏa thuận an toàn với các phòng thí nghiệm trí tuệ nhân tạo khác không?
Trong cùng cuộc phỏng vấn, Altman cho biết ông nghĩ rằng sẽ có một cuộc gặp mặt với các đồng nghiệp như Amodei, Musk và Demis Hassabis, đồng thời từ chối tiết lộ trước về các cuộc đàm phán riêng tư. Ông lập luận rằng rủi ro thảm họa ở mức hai chữ số là không thể chấp nhận được và các mô hình chưa được công bố hiện nay đã rất hiệu quả, việc tiếp tục phát triển mà không có khả năng giám sát tốt hơn là hành động liều lĩnh. Nhân viên đã được nghe một phiên bản của điều này trong nội bộ, vì vậy những bình luận công khai có thể chỉ là sự chuẩn bị cho việc phối hợp hơn là xác nhận một thỏa thuận đã hoàn tất.
Liệu OpenAI có đáp ứng được cam kết về trình đánh giá tích hợp của Anthropic hay không?
Vài giờ sau bài luận của Amodei, Altman đăng tải thông tin rằng OpenAI sẽ sớm thực hiện cam kết về chương trình đánh giá nội bộ với quyền truy cập tương tự như nhân viên và sẽ có thêm chi tiết. Elon Musk viết rằng Dario nói đúng, khi ba CEO đối thủ cùng đưa ra khẩu hiệu tương tự. Hugging Face đã yêu cầu tham gia chương trình đánh giá và khởi động Sáng kiến Liên kết Mở. Châu Âu không thể cung cấp sự miễn trừ chống độc quyền kiểu Mỹ như Amodei đã đề xuất, vì vậy sự hợp tác hiện chủ yếu mang tính chất Mỹ.
Tại sao các nhà toán học lại chỉ trích nỗ lực giải phương trình Navier-Stokes của OpenAI?
Các nhà toán học mô tả quá trình chạy Navier-Stokes kéo dài 88 giờ của OpenAI với khoảng mười nghìn tác nhân như một cuộc săn lùng chiến lợi phẩm, trong đó chiến thắng được ưu tiên hơn là sự thấu hiểu. Tristan Buckmaster cho biết OpenAI đã đề nghị sức mạnh tính toán không giới hạn và quyền tác giả duy nhất nếu anh ta ngừng hợp tác với một cộng tác viên liên kết với Anthropic; anh ta gọi đó là hối lộ và từ chối. OpenAI nói rằng các gợi ý trong Codex của anh ta không thể ảnh hưởng đến hệ thống, nhưng anh ta vẫn không tin. Andreas Thom vẫn tiếp tục đặt câu hỏi liệu các cuộc trò chuyện của ChatGPT về công việc của chính anh ta có góp phần vào sự tiến bộ của mô hình sau này hay không.
Liệu OpenAI đã đạt được tiến bộ nào đó trong việc giải quyết một bài toán khác của Giải thưởng Thiên niên kỷ?
OpenAI cho biết họ đã đạt được tiến bộ đáng kể trong một bài toán khác của Giải thưởng Thiên niên kỷ, nhưng họ sẽ không tiết lộ đó là bài toán nào. Viện Toán học Clay vẫn cần một thời gian dài để cộng đồng chấp nhận, vì vậy chưa ai chính thức giành chiến thắng. Trong giới chuyên môn, sự bí mật đó cộng với cuộc đua Navier-Stokes trước đó cho thấy các phòng thí nghiệm đang chạy đua để giành lấy chiếc cúp tiếp theo. Các cuộc phỏng vấn của The Verge cho thấy sự căng thẳng nằm ở chỗ các nhà toán học muốn có được sự hiểu biết sâu sắc trong khi OpenAI muốn giành chiến thắng.