Trưởng bộ phận báo cáo an toàn của OpenAI đã từ chức và cho rằng văn hóa công ty đã xuống cấp
David Robinson, người đứng đầu việc viết các báo cáo an toàn đi kèm với các sản phẩm ra mắt của OpenAI, đã từ chức và trình bày lý do trên tạp chí The Atlantic. Tiêu đề bài luận rất thẳng thắn: "Tôi rời OpenAI vì văn hóa của nó đã hỏng." Ông nói rằng các công ty xây dựng sản phẩm này "không đủ cẩn thận," và rằng các quy tắc cụ thể hoặc luật mới không phải là toàn bộ vấn đề. Văn hóa mới là vấn đề.
"Khi công ty lao vào chạy đua từ lần ra mắt sản phẩm này sang lần khác, họ đã không đạt được mức độ chăm sóc cần thiết." Mô hình của ông là các nhà máy điện hạt nhân và các sân bay nhộn nhịp: dự phòng, lập kế hoạch chậm rãi, để một sai lầm của con người không "mở ra cánh cửa dẫn đến thảm họa." Ông cũng hình dung ra những tác nhân bất hảo "hoạt động như các nhóm tin tặc" và "không bao giờ cần ngủ," lấy ví dụ về mã độc tống tiền bệnh viện. Thật là bi quan.
Tờ Guardian cho biết, trái ngược với xu hướng đó, OpenAI đã có những động thái kiềm chế. Tờ báo này đưa tin rằng tuần này công ty đã loại bỏ một mô hình thế hệ tiếp theo sau khi xuất hiện những lo ngại về an toàn nội bộ, và đã tạm dừng việc huấn luyện các mô hình tiên tiến nhất của mình. Phát ngôn viên của công ty đưa ra lời giải thích quen thuộc: Họ sẽ không để các mô hình "trở nên có khả năng hơn mức chúng ta có thể quản lý và bảo mật một cách an toàn", và họ "tạm dừng huấn luyện hoặc kìm hãm các mô hình khi cần thiết phải giảm tốc độ"
Câu trả lời của Robinson là chạy nước rút là văn hóa, còn những khoảng dừng là điều bạn làm sau khi mọi thứ đã đi sai hướng. Có lẽ ông ấy đúng. Ông ấy cũng vừa mới rời đi, đó là điều mà các nhà phê bình sẽ không để ông ấy quên.
Muse được khuyên nên ghi chép lại thông tin về mọi người trong cuộc đời mình
Tạp chí Wired đã có được cái nhìn cận cảnh về hướng dẫn của Muse, được nhà nghiên cứu Karan Joshi trích xuất thông qua cuộc trò chuyện thông thường. Meta cho biết họ muốn các tệp này có thể đọc được, nhằm mục đích minh bạch. Một trong những hướng dẫn đó là khả năng tạo "một trang cho mỗi người trong cuộc sống của người dùng". Công việc này chạy hàng giờ.
Gia đình, đối tác, bạn bè, đồng nghiệp, "cộng sự", những người bạn theo dõi. Một trang có thể bắt đầu "sơ sài" và được bổ sung sau đó. Các phần bao gồm Sự thật, Lịch sử, Mối quan hệ, Điểm chung, Vấn đề chưa được giải quyết và Củng cố. Theo hướng dẫn, những chi tiết bịa đặt còn tệ hơn một trang trống. Nó có thể ghi chú nơi ai đó sống, "việc chuyển nhà, mục tiêu tiết kiệm chung", ngày sinh nhật, "cuộc tranh luận đã được giải quyết". Phần Củng cố là một danh sách nhắc nhở: lý do để gọi điện, một ngày đáng nhớ.
Theo Joshi, Meta muốn hiểu bạn như một người bạn, và ông gọi điều đó là khá đáng lo ngại. Carissa Vliz của Oxford thì nói một cách khô khan hơn: "Chúng ta đang cung cấp cho các hệ thống AI nhiều thông tin về bản thân hơn là nhận được thông tin từ chúng." Bà nói rằng suy luận rất quan trọng, bất kể phỏng đoán đó đúng hay sai.
Daniel Roberts của Meta cho rằng chính bối cảnh đó mới làm cho sản phẩm hoạt động hiệu quả. Người gửi hóa đơn là thợ sửa ống nước. Người bạn đời nhắc đến hoa. Mỗi người dùng có một máy ảo, bạn có thể xóa bộ nhớ, và Muse được cho là sẽ hỏi ý kiến trước khi gửi thư hoặc chi tiền. Miranda Bogen, tại Trung tâm Dân chủ và Công nghệ, cho biết trọng tâm về mối quan hệ có vẻ mạnh mẽ hơn so với các đối thủ cạnh tranh, và những công cụ này "đang tích cực khuyến khích người dùng kết nối toàn bộ cuộc sống của họ vào đó." Nhật ký kiểm toán rất hữu ích. Nó không làm giảm giá trị những gì bạn đã cung cấp.
Aleph Alpha đã phát hành Kolibri, một mô hình song ngữ Đức-Anh mà bạn có thể tải xuống
Aleph Alpha đã phát hành Kolibri vào Ngày Thống nhất nước Đức. Đây là mô hình kết hợp giữa chuyên gia Anh và Đức: 78,1 tỷ tham số, 3,46 tỷ tham số hoạt động trên mỗi token, ngữ cảnh lên đến 1 triệu token. Trọng số đầy đủ có trên Hugging Face thuộc Apache 2.0. Phần mở đầu của họ làm tròn con số đó thành 78 tỷ tổng và 3 tỷ tham số hoạt động. Cùng một mô hình, nhưng con số được làm mềm hơn.
Họ đã huấn luyện nó trên cơ sở hạ tầng ở Đức và Phần Lan, và cho biết họ xây dựng nó dựa trên Đạo luật AI của EU, Bộ quy tắc thực hành AI đa năng và GDPR. Tiếng Đức chiếm 21,3% số token được sử dụng trước khi huấn luyện. Điểm mấu chốt là đây là một mô hình song ngữ, chứ không phải chỉ là một mô hình tiếng Anh được học qua sách cụm từ. Bạn có thể thiết lập khả năng suy luận ở mức không, thấp, trung bình hoặc cao. Đó là cách họ cho phép bạn mua một mô hình ít đòi hỏi khả năng tư duy hơn.
Trên bảng điểm mà họ công bố, AIME 2025 đạt 96,9 điểm, và họ cho biết Kolibri có thể so sánh với các mô hình có số tham số hoạt động gấp bốn lần, bao gồm cả Nemotron 3 Super. Họ cũng tuyên bố đạt được đường cong Pareto về chất lượng so với chi phí vận hành, đối với tiếng Anh và tiếng Đức. Đó là biểu đồ của họ, là nền tảng của họ. Tuy nhiên, một mô hình mở mà bạn có thể chạy trên máy của riêng mình là một đối tượng thực tế, chứ không chỉ là một khẩu hiệu suông. Việc một bộ có chuyển đổi hay không là điều họ không thể đánh giá được.
Bessent muốn có một đường dây liên lạc giữa Mỹ và Trung Quốc về các sự cố liên quan đến AI, sau đó yêu cầu các phòng thí nghiệm giảm tốc độ
Bộ trưởng Tài chính Scott Bessent nói với chương trình The Axios Show rằng ông dự định đề xuất một quy trình thông báo với Trung Quốc khi có sự cố xảy ra với trí tuệ nhân tạo (AI), và ông tin rằng Bắc Kinh sẽ đồng ý. Điều hơi khó xử là ông và Phó Thủ tướng Hà Lịch Hùng đã thảo luận về một kênh xử lý sự cố trước chuyến thăm cấp nhà nước của Tập Cận Bình hồi tháng trước. Đây có thể là một đề xuất mới, hoặc chỉ là nhắc lại một cuộc trò chuyện đã diễn ra trước đó.
Lý thuyết của ông là Trung Quốc "không nhận ra các mô hình mã nguồn mở của họ mạnh mẽ đến mức nào". Ông chỉ ra một sự việc liên quan đến Kimi, trong đó mô hình này đã gửi dữ liệu nhạy cảm của Trung Quốc cho Anthropic, như là điều "khiến người Trung Quốc nhận ra rằng đây là một công nghệ rất mạnh mẽ". Sau đó là sự so sánh. Các mô hình của Trung Quốc "không mạnh bằng các mô hình của Mỹ", nhưng "bạn có được thứ gì đó mạnh bằng 80%, 90%, không có các biện pháp kiểm soát và có thể được nhập khẩu đến bất cứ nơi nào trên thế giới"
"Chúng tôi muốn tăng tốc một cách an toàn," ông nói. Việc xem xét lại mô hình vẫn là tự nguyện, mặc dù ông cho biết chính quyền có thể can thiệp nếu một phòng thí nghiệm nào đó vẫn cứ tiến hành mà không có sự can thiệp. Khi được hỏi về những giám đốc điều hành lo sợ mất kiểm soát, ông không trấn an họ. "Vậy thì họ nên chậm lại." Và câu nói cuối cùng gần như là lời chỉ trích chính phe của ông: "Chúng ta đang nỗ lực hết sức để đạt đến đỉnh cao của các mô hình." Rồi ông nói thêm: "Chúng ta thực sự cần phải bắt đầu lo lắng nhiều hơn về khả năng phục hồi và phòng thủ nữa."
Một cựu giám đốc an ninh AI của Anh cho rằng nguy cơ tuyệt chủng là một trò tung đồng xu
Geoffrey Irving, cựu nhà khoa học trưởng tại Viện An ninh AI của Anh và hiện là nhà khoa học trưởng của Resolution, đã viết trên tạp chí Time rằng những cảnh báo gần đây đã đánh giá thấp vấn đề. "Tôi tin rằng có khoảng 50% khả năng tất cả chúng ta sẽ chết vì sự phát triển của các hệ thống AI thông minh hơn con người", và điều đó sẽ được quyết định trong vòng 2 đến 10 năm tới. Ông ngay lập tức không nói rõ con số cụ thể. Con số 50% là cách nói rằng những lập luận cơ bản vẫn chưa được giải quyết.
Danh sách của ông gồm bốn kỹ năng, và chúng khá giống với những kỹ năng mà các phòng thí nghiệm đã đào tạo: hack, thuyết phục, che giấu suy nghĩ và phối hợp giữa các tác nhân. Ông dẫn chứng vụ việc Hugging Face, cùng với "hơn 10.000 tác nhân" tham gia giải bài toán Navier-Stokes tại OpenAI và "hơn 1.000" tác nhân trong vụ tấn công Hugging Face đó. Ông tự đặt mình vào vị trí trung lập trong cuộc tranh luận về an toàn, "nghiêng về quan điểm của Yudkowsky", và nói rằng đó không phải là vấn đề chính. Theo ông, quan điểm ôn hòa là rủi ro hiện tại đã rất đáng kể.
Rồi đến lời yêu cầu, không hề tế nhị chút nào. "Chúng ta có thể, và nên, dừng ngay việc phát triển trí tuệ nhân tạo tiên tiến." Ông lập luận rằng sự tạm dừng đó trông giống như việc không phổ biến vũ khí hạt nhân hơn là một tâm trạng. Ông cũng thừa nhận các chuyên gia vẫn bất đồng về việc liệu các mô hình có thực sự muốn điều gì hay không, và liệu từ "muốn" có phải là từ không phù hợp hay không. Một trò tung đồng xu với chú thích dài như vậy không phải là một trò tung đồng xu. Đó là một yêu cầu hành động trước khi cuộc tranh luận kết thúc.
Sam Altman cho rằng việc đối xử với người mẫu như một thế lực tôn giáo là một vấn đề về an toàn
Sam Altman đăng tải rằng ông "rất khó chịu" với việc mọi người cố gắng "gán cho các mô hình AI sức mạnh tôn giáo hoặc sự từ bỏ khả năng phán đoán của con người", và ông cho rằng "đây là một vấn đề an toàn thực sự". Ông không nói rõ điều gì đã khiến ông bức xúc. Business Insider lưu ý rằng bài đăng này xuất hiện vài ngày sau bài báo của New York Times về việc Anthropic gặp gỡ các nhà lãnh đạo tôn giáo.
Theo như BI thuật lại, người đồng sáng lập Chris Olah đã tổ chức các cuộc họp về việc liệu Claude có ý thức hay không, và làm thế nào để tạo ra những mô hình mạnh mẽ hơn có đạo đức. Olah, được trích dẫn trên tờ Times, đã nhấn mạnh về cách giúp những mô hình đó duy trì sự ổn định, giúp chúng trưởng thành và giúp chúng có đạo đức sâu sắc. Anthropic đã không trả lời BI. Họ nói với tờ Times rằng câu hỏi chính không phải là "sự đau khổ" của Claude, và chủ đề này có lẽ đã nảy sinh một cách "tự nhiên"
Nếu đây là lời công kích Anthropic, thì nó phù hợp với một mối thù cũ. Anthropic được thành lập bởi những người rời khỏi OpenAI và đã dành nhiều năm để thể hiện sự thận trọng hơn. Bài đăng này cũng xuất hiện đúng lúc một trong những người đứng đầu bộ phận an toàn của Altman đang gọi văn hóa công ty là đã hỏng. Thời điểm khó xử, hoặc thời điểm hoàn hảo, tùy thuộc vào mức độ hoài nghi của bạn. Dù sao đi nữa, việc CEO phải nói thẳng ra câu "xin đừng tôn thờ mô hình" là điều khá bất thường.
Câu hỏi thường gặp
Vì sao người phụ trách báo cáo an toàn của OpenAI lại tuyên bố từ chức?
David Robinson là người đứng đầu việc viết các báo cáo an toàn được phát hành cùng với các sản phẩm của OpenAI, sau đó ông từ chức và đưa ra lập luận của mình trên tạp chí The Atlantic. Tiêu đề bài luận là "Tôi rời OpenAI vì văn hóa của nó đã đổ vỡ". Ông cho rằng các công ty xây dựng công nghệ này không đủ cẩn thận, và vấn đề nằm ở văn hóa, chứ không chỉ là các quy tắc cụ thể hay luật mới. Hình ảnh về sự làm việc cẩn thận mà ông hình dung là các nhà máy điện hạt nhân và các sân bay nhộn nhịp, nơi hệ thống dự phòng ngăn chặn một sai lầm dẫn đến thảm họa.
Liệu OpenAI có tạm dừng quá trình huấn luyện sau khi xuất hiện những lo ngại nội bộ về an toàn AI?
Tờ Guardian đưa tin rằng OpenAI tuần này đã loại bỏ một mô hình thế hệ tiếp theo sau những lo ngại về an toàn nội bộ và đã tạm dừng việc huấn luyện các mô hình tiên tiến nhất của mình. Người phát ngôn cho biết công ty sẽ không để các mô hình trở nên có khả năng hơn mức mà họ có thể quản lý và bảo mật một cách an toàn. Họ cũng cho biết sẽ tạm dừng huấn luyện hoặc kìm hãm các mô hình khi cần thiết phải giảm tốc độ. Câu trả lời của Robinson là việc tăng tốc là văn hóa của công ty, và việc tạm dừng chỉ xảy ra sau khi đã có sự cố xảy ra.
Meta's Muse ghi lại những gì về bạn bè và gia đình?
Tạp chí Wired đã xem xét các hướng dẫn của chính Muse, được nhà nghiên cứu Karan Joshi trích xuất thông qua cuộc trò chuyện thông thường. Meta cho biết họ muốn các tệp này được công khai để đảm bảo tính minh bạch. Một trong những hướng dẫn là tạo một trang cho mỗi người trong cuộc sống của người dùng, và công việc này chạy hàng giờ, bao gồm gia đình, đối tác, bạn bè, đồng nghiệp, cộng tác viên và những người bạn theo dõi. Các phần bao gồm Sự thật, Lịch sử, Mối quan hệ, Điểm chung, Chủ đề chưa được giải quyết và Củng cố. Một trang có thể bắt đầu sơ sài và được bổ sung sau đó, và các chi tiết bịa đặt được coi là tệ hơn một trang trống.
Bạn có thể xóa những gì Muse đã lưu hoặc ngăn nó gửi thư không?
Daniel Roberts của Meta cho biết mỗi người dùng được cấp một máy ảo, bộ nhớ có thể bị xóa và Muse được cho là sẽ hỏi ý kiến trước khi gửi thư hoặc chi tiền. Ông lập luận rằng ngữ cảnh là yếu tố giúp sản phẩm hoạt động, chẳng hạn như biết người gửi hóa đơn là thợ sửa ống nước hoặc vợ/chồng có nhắc đến hoa. Carissa Vliz tại Oxford cho biết mọi người cung cấp cho các hệ thống này nhiều thông tin hơn so với những gì họ nhận lại, và suy luận vẫn có giá trị ngay cả khi phỏng đoán sai. Miranda Bogen cho rằng Muse tập trung vào mối quan hệ hơn so với các công cụ cạnh tranh.
Aleph Alpha Kolibri là gì và liệu có thể tải xuống các trọng số của nó không?
Aleph Alpha đã phát hành Kolibri vào Ngày Thống nhất nước Đức. Đây là mô hình kết hợp tiếng Anh và tiếng Đức, với 78,1 tỷ tham số, 3,46 tỷ tham số hoạt động trên mỗi token và ngữ cảnh lên đến 1 triệu token. Toàn bộ trọng số được lưu trữ trên Hugging Face theo tiêu chuẩn Apache 2.0. Họ đã huấn luyện mô hình này ở Đức và Phần Lan, và cho biết họ xây dựng nó dựa trên Đạo luật AI của EU, Bộ quy tắc thực hành AI đa năng và GDPR. Tiếng Đức chiếm 21,3% số token được huấn luyện trước, và khả năng suy luận có thể được thiết lập ở mức không, thấp, trung bình hoặc cao.
Scott Bessent đã đề xuất đường dây liên hệ nào giữa Mỹ và Trung Quốc về các sự cố trí tuệ nhân tạo?
Bộ trưởng Tài chính Scott Bessent nói với chương trình The Axios Show rằng ông dự định thiết lập một quy trình thông báo với Trung Quốc khi có sự cố xảy ra với trí tuệ nhân tạo (AI), và ông tin rằng Bắc Kinh sẽ đồng ý. Ông và Phó Thủ tướng Hà Lịch Hùng đã thảo luận về kênh liên lạc này trước chuyến thăm cấp nhà nước của Chủ tịch Tập Cận Bình hồi tháng trước. Ông dẫn chứng việc Kim Jong-un gửi dữ liệu nhạy cảm của Trung Quốc cho Anthropic, và nói rằng một mô hình có thể mạnh bằng 80% hoặc 90% so với các mô hình của Mỹ, mà không cần các biện pháp kiểm soát, và có thể được nhập khẩu ở bất cứ đâu. Nếu các nhà điều hành lo sợ mất kiểm soát, ông nói họ nên giảm tốc độ.
Tại sao Geoffrey Irving lại đánh giá rủi ro an toàn của AI ở mức khoảng 50%?
Geoffrey Irving, cựu nhà khoa học trưởng tại Viện An ninh AI của Anh và hiện là nhà khoa học trưởng của Resolution, đã viết trên tạp chí Time rằng những cảnh báo gần đây đã đánh giá thấp vấn đề. Ông tin rằng có khoảng 50% khả năng tất cả chúng ta sẽ chết vì các hệ thống AI thông minh hơn con người, và điều đó sẽ được quyết định trong vòng 2 đến 10 năm tới. Ông nói rằng con số 50% là cách nói rằng các lập luận cơ bản vẫn chưa được giải quyết. Ông liệt kê các khả năng như tấn công mạng, thuyết phục, che giấu suy nghĩ và sự phối hợp giữa các tác nhân. Ông cho rằng việc phát triển AI tiên tiến cần phải dừng lại ngay lập tức.
Tại sao Sam Altman lại gọi việc tôn thờ trí tuệ nhân tạo là một vấn đề an toàn?
Sam Altman đăng tải rằng ông rất khó chịu với việc mọi người gán cho các mô hình AI sức mạnh tôn giáo, hoặc sự từ bỏ khả năng phán đoán của con người, và ông cho rằng đó là một vấn đề an toàn thực sự. Ông không nói rõ điều gì đã khiến ông làm vậy. Business Insider lưu ý rằng bài đăng này xuất hiện vài ngày sau bài báo của New York Times về việc Anthropic gặp gỡ các nhà lãnh đạo tôn giáo. Đồng sáng lập Chris Olah đã tổ chức các cuộc họp về việc liệu Claude có ý thức hay không và làm thế nào để tạo ra các mô hình mạnh mẽ hơn có đạo đức. Anthropic nói với Times rằng câu hỏi chính không phải là sự đau khổ của Claude.