Theo các nguồn tin, các cố vấn của ông Trump nói với các công ty trí tuệ nhân tạo rằng họ sẽ không kiểm tra độ an toàn của các mô hình trọng lượng mở ↗
Theo những người quen thuộc với các cuộc thảo luận, chính quyền Trump đã thông báo với các công ty AI hàng đầu rằng họ sẽ không tiến hành kiểm tra an toàn các mô hình trọng số mở. Điều đó có nghĩa là một phần khá quan trọng của việc đánh giá rủi ro nằm ngoài khuôn khổ của chính phủ.
Trên thực tế, các nhà phát triển và người dùng có thể phải gánh vác nhiều trách nhiệm hơn trong việc đánh giá các mô hình trước khi phát hành hoặc triển khai. Có lẽ điều này thân thiện với sự đổi mới… nhưng thời điểm hiện tại lại không mấy thuận lợi, khi các mô hình mã nguồn mở đang ngày càng trở nên mạnh mẽ hơn với tốc độ nhanh chóng. (Reuters)
Các mô hình AI trọng lượng mở đang bắt kịp với công nghệ tiên tiến. Khoảng cách về an toàn vẫn còn tồn tại. ↗
Theo các báo cáo, GLM-5.2 của Z.ai chỉ chậm hơn vài tháng so với các mô hình khép kín hàng đầu về khả năng tấn công mạng và sinh học. Các thử nghiệm của SaferAI cho thấy nó không từ chối bất kỳ nhiệm vụ tấn công mạng hay nhiệm vụ sinh học lưỡng dụng nào được đưa ra.
Các mô hình khép kín có thể dựa vào huấn luyện từ chối, bộ phân loại và điều khiển API. Trọng số có thể tải xuống là một vấn đề khác - một khi được phát hành, các biện pháp bảo vệ có thể bị thay đổi hoặc loại bỏ, khiến khoảng cách an toàn trở nên rõ rệt như một vực sâu. (TechCrunch)
Samsung Electronics ra mắt công nghệ bộ nhớ AI thế hệ tiếp theo ↗
Samsung đã ra mắt nguyên mẫu BV-NAND với hơn 400 lớp và thiết kế ghép wafer mới. Công ty cho biết sản phẩm này mang lại mật độ bộ nhớ cao hơn khoảng 58% so với thế hệ trước, cùng với hiệu năng đọc, ghi và đầu vào/đầu ra nhanh hơn.
Samsung cũng đã phác thảo bộ nhớ zHBM xếp chồng theo chiều dọc được đặt phía trên các bộ tăng tốc AI. Hãng tuyên bố kiến trúc này có thể cung cấp mật độ cao hơn gấp mười lần so với HBM5 thông thường, hiệu suất năng lượng gấp ba lần và điện trở nhiệt thấp hơn đáng kể - những lời hứa đầy tham vọng, nói một cách nhẹ nhàng. (Reuters)
Cuộc đua trung tâm dữ liệu AI tạo ra gánh nặng thuê mặt bằng trị giá 1 nghìn tỷ đô la cho các tập đoàn công nghệ lớn ↗
Microsoft, Meta, Oracle, Amazon và Alphabet đã cam kết chi khoảng 1,09 nghìn tỷ đô la cho các hợp đồng thuê chưa bắt đầu, chủ yếu là cho các trung tâm dữ liệu AI. Các nghĩa vụ này gần gấp bốn lần các khoản nợ thuê được ghi nhận của họ.
Năng lực này có thể thúc đẩy sự bùng nổ điện toán đám mây tiếp theo. Hoặc, theo hướng không mấy lạc quan, có thể khiến các công ty phải trả tiền cho các cơ sở hạ tầng khổng lồ nếu nhu cầu về trí tuệ nhân tạo không đạt kỳ vọng - giống như chiếc áo khoác trị giá nghìn tỷ đô la được mua trước khi bất kỳ ai kiểm tra thời tiết. (Reuters)
Anthropic ký thỏa thuận trị giá 10 tỷ đô la với Volta, một công ty khởi nghiệp về điện toán đám mây AI ↗
Theo các nguồn tin, Anthropic đã đồng ý mua lại năng lực điện toán trị giá 10 tỷ đô la từ công ty khởi nghiệp điện toán đám mây AI Volta trong vòng sáu năm. Thỏa thuận này sẽ hỗ trợ một trung tâm dữ liệu của Na Uy với công suất 133 megawatt.
Công ty khai thác tiền điện tử Bitdeer dự kiến sẽ giúp phát triển cơ sở này, nơi sẽ sử dụng hệ thống Vera Rubin của Nvidia. Anthropic đang thu thập các đối tác điện toán như nam châm tủ lạnh - ngoại trừ những nam châm này có giá hàng tỷ đô la. (TechCrunch)
Ngân hàng Thế giới cho biết trí tuệ nhân tạo (AI) mang lại "cứu cánh" cho các nền kinh tế đang phát triển ↗
Ngân hàng Thế giới cho rằng trí tuệ nhân tạo (AI) có thể giúp các nền kinh tế đang phát triển rút ngắn tiến bộ của cả một thế kỷ xuống còn một thập kỷ, với điều kiện họ cải thiện được điện năng, kết nối và kỹ năng số. Các công cụ nhỏ hơn, được điều chỉnh phù hợp với từng địa phương, có thể hỗ trợ chăm sóc sức khỏe, giáo dục, nông nghiệp và các dịch vụ công cộng mà không cần đến các mô hình quốc gia khổng lồ.
Báo cáo ước tính rằng 4,5% việc làm ở các quốc gia thu nhập thấp và trung bình có thể được ứng dụng trí tuệ nhân tạo tạo sinh, so với 14,2% ở các nền kinh tế giàu có hơn. Tuy nhiên, lời hứa này đi kèm với những cảnh báo gay gắt về bất bình đẳng, thông tin sai lệch và đàn áp chính trị - một giải pháp cứu cánh với nhiều rủi ro tiềm ẩn. (Reuters)
Câu hỏi thường gặp
Tại sao chính phủ Mỹ không tiến hành kiểm tra an toàn đối với các mô hình AI có trọng lượng mở?
Theo bài báo, chính quyền Trump đã thông báo với các công ty AI hàng đầu rằng các mô hình trọng lượng mở sẽ không được đưa vào khuôn khổ kiểm tra an toàn của chính phủ. Điều này đặt thêm trách nhiệm lên các nhà phát triển, phân phối và người dùng mô hình, những người có thể cần phải tự đánh giá các rủi ro về an ninh mạng, sinh học, lạm dụng và triển khai trước khi phát hành hoặc áp dụng các hệ thống này.
Tại sao các mô hình AI có trọng lượng mở lại khó bảo mật hơn các mô hình có trọng lượng đóng?
Các mô hình AI mã nguồn mở có thể được tải xuống, chỉnh sửa và vận hành bên ngoài cơ sở hạ tầng của nhà phát triển ban đầu. Do đó, các biện pháp bảo vệ như huấn luyện từ chối, phân loại và kiểm soát truy cập có thể bị suy yếu hoặc loại bỏ. Các mô hình mã nguồn đóng thường được cung cấp thông qua API được kiểm soát, cho phép các nhà cung cấp có phạm vi rộng hơn để giám sát việc sử dụng, hạn chế quyền truy cập và cập nhật các biện pháp bảo vệ sau khi triển khai.
Các tổ chức nên đánh giá các mô hình AI có trọng số mở như thế nào trước khi triển khai?
Một cách tiếp cận phổ biến là kiểm tra mô hình dựa trên các kịch bản lạm dụng thực tế, bao gồm các tác vụ tấn công mạng, các yêu cầu sinh học lưỡng dụng và các nỗ lực vượt qua các biện pháp bảo vệ. Các tổ chức cũng nên xem xét cách thức mô hình sẽ được lưu trữ, ai có thể sửa đổi nó và những hệ thống giám sát nào có sẵn. Việc triển khai có rủi ro cao hơn thường yêu cầu kiểm soát truy cập nghiêm ngặt hơn và sự giám sát liên tục của con người.
Công nghệ bộ nhớ AI mới của Samsung được thiết kế để cải thiện điều gì?
Nguyên mẫu BV-NAND của Samsung sử dụng hơn 400 lớp và thiết kế ghép wafer nhằm tăng mật độ bộ nhớ đồng thời cải thiện hiệu suất đọc, ghi và đầu vào/đầu ra. Công ty cũng mô tả bộ nhớ zHBM xếp chồng theo chiều dọc được đặt phía trên các bộ tăng tốc AI. Những thiết kế này nhằm giải quyết các yêu cầu về dung lượng, năng lượng và nhiệt lượng do khối lượng công việc AI ngày càng chuyên sâu tạo ra.
Tại sao việc thuê trung tâm dữ liệu AI của các tập đoàn công nghệ lớn lại được coi là rủi ro tài chính?
Theo các báo cáo, Microsoft, Meta, Oracle, Amazon và Alphabet đã cam kết chi khoảng 1,09 nghìn tỷ đô la cho các hợp đồng thuê chưa bắt đầu hoạt động, phần lớn liên quan đến các trung tâm dữ liệu AI. Dung lượng bổ sung này có thể hỗ trợ sự tăng trưởng nhanh chóng về nhu cầu điện toán đám mây và AI. Tuy nhiên, các công ty vẫn có thể phải trả những khoản phí đáng kể nếu nhu cầu phát triển chậm hơn dự kiến hoặc cơ sở hạ tầng không được sử dụng hết công suất.
Trí tuệ nhân tạo (AI) có thể mang lại lợi ích gì cho các nền kinh tế đang phát triển?
Ngân hàng Thế giới cho rằng trí tuệ nhân tạo (AI) có thể giúp các nền kinh tế đang phát triển tăng cường y tế, giáo dục, nông nghiệp và dịch vụ công cộng, đặc biệt là thông qua các công cụ nhỏ hơn được điều chỉnh phù hợp với nhu cầu địa phương. Những lợi ích đó phụ thuộc vào nguồn điện ổn định, truy cập internet và kỹ năng số. Chính phủ cũng phải quản lý các rủi ro như bất bình đẳng, thông tin sai lệch và đàn áp chính trị khi việc áp dụng AI mở rộng.