🛡️ Theo Financial Times, các cơ quan quản lý của Anh đang gấp rút đánh giá rủi ro của mô hình Trí tuệ Nhân tạo Nhân sinh mới nhất ↗
Các cơ quan giám sát tài chính của Anh được cho là đang nhanh chóng xem xét mô hình Mythos mới của Anthropic sau những lo ngại rằng nó có thể làm lộ ra những điểm yếu nghiêm trọng trong các hệ thống quan trọng. Cuộc thảo luận có sự tham gia của Ngân hàng Anh, Cơ quan Quản lý Tài chính (FCA), Bộ Tài chính và Trung tâm An ninh mạng Quốc gia - một đội ngũ hùng mạnh cho một cuộc đánh giá sơ bộ mô hình.
Điều đáng lo ngại là Mythos đặc biệt giỏi trong việc tìm kiếm các lỗ hổng phần mềm, mặc dù Anthropic cho biết việc triển khai được giới hạn nghiêm ngặt và chỉ nhằm mục đích bảo mật phòng thủ. Các ngân hàng, công ty bảo hiểm và sàn giao dịch dự kiến sẽ được thông báo, vì vậy điều này giờ đây không còn giống như những lời bàn tán trong phòng thí nghiệm mà giống chính sách cơ sở hạ tầng hơn.
🤖 Tại hội nghị HumanX, mọi người đều bàn tán về Claude ↗
Có vẻ như Anthropic đã tạo nên xu hướng tại HumanX - đó là điều dễ nhận thấy nhất. Trong các buổi thảo luận, trò chuyện với nhà cung cấp và cả những cuộc trò chuyện ngoài hành lang, Claude liên tục được nhắc đến như mô hình được mọi người mong muốn nhất cho quy trình làm việc kinh doanh và lập trình.
Điều đáng chú ý là sự im lặng tương đối xung quanh ChatGPT. Bài viết cho thấy OpenAI vẫn có quy mô và nguồn lực tài chính, nhưng không khí hội nghị nghiêng về Claude như một công cụ có sức hút mạnh mẽ hơn đối với doanh nghiệp hiện nay - hoặc ít nhất là có vẻ như vậy.
📄 Claude for Word của Anthropic là một thách thức khác đối với đế chế phần mềm của Microsoft ↗
Anthropic đã ra mắt phiên bản beta của Claude dành cho Word, hướng đến việc ứng dụng rộng rãi hơn vào phần mềm văn phòng hàng ngày thay vì chỉ giới hạn ở vai trò công cụ dành cho nhà phát triển. Ứng dụng này có thể trả lời các câu hỏi về tài liệu bằng cách sử dụng trích dẫn phần có thể nhấp chuột, chỉnh sửa văn bản được chọn mà không làm hỏng định dạng và xử lý các thay đổi được theo dõi.
Đối tượng mục tiêu khá rõ ràng: các nhóm làm việc nhiều với tài liệu, đặc biệt là bộ phận pháp lý và tài chính. Điều đó khiến đây không chỉ đơn thuần là một tính năng bổ sung - mà còn là một động thái trực tiếp nhắm vào "sân nhà" của Microsoft, và khá là táo bạo.
🌐 Các bot AI đang khai thác triệt để dữ liệu trên web, và Anthropic dẫn đầu xu hướng này ↗
Một phân tích mới về dữ liệu của Cloudflare cho thấy các công ty AI đang khai thác từ web nhiều hơn rất nhiều so với những gì chúng trả về. Chỉ số quan trọng là tỷ lệ thu thập dữ liệu trên lượt truy cập – tần suất các bot quét các trang so với tần suất chúng đưa người dùng trở lại trang – và Anthropic thể hiện đặc biệt tệ.
Tỷ lệ của Anthropic được báo cáo là 8.800 trên 1, trong khi OpenAI cũng có tỷ lệ cao nhưng thấp hơn nhiều. Ý chính rất rõ ràng: thỏa thuận cũ trên web là thu thập dữ liệu của chúng ta, sau đó gửi lưu lượng truy cập đến chúng ta. Các công cụ trả lời bằng AI chỉ giữ lại phần đầu tiên và để phần thứ hai mờ dần đi.
⚔️ Cùng điểm qua cuộc chạy đua vũ trang trí tuệ nhân tạo (AI) toàn cầu đang leo thang, khi Mỹ, Trung Quốc, Nga và các nước khác gấp rút xây dựng các hệ thống vũ khí và phòng thủ tự động dựa trên AI ↗
Những bài viết gần đây về ứng dụng trí tuệ nhân tạo trong quân sự không còn tập trung vào các màn trình diễn hào nhoáng mà chú trọng hơn vào sự tăng tốc chiến lược. Các cường quốc đang đồng thời thúc đẩy các hệ thống phòng thủ tự động và hỗ trợ bởi trí tuệ nhân tạo, khiến toàn bộ quá trình giống như một cuộc đua tiếp sức mà ai cũng tranh giành gậy và quên phanh.
Điều đó làm dấy lên những câu hỏi thường gặp - kiểm soát, leo thang, trách nhiệm giải trình - nhưng giờ đây lại càng cấp bách hơn. Một khi trí tuệ nhân tạo được tích hợp sâu hơn vào việc nhắm mục tiêu, giám sát và ra quyết định trên chiến trường, thì từ "thử nghiệm" nghe có vẻ chỉ như một nhãn dán trên giấy cho một thứ đã và đang vận hành.
🏭 Tập đoàn SoftBank của Nhật Bản ra mắt đơn vị phát triển trí tuệ nhân tạo nội địa ↗
SoftBank đã hợp tác với Sony, Honda và các công ty Nhật Bản khác để thành lập một liên doanh trí tuệ nhân tạo mới tập trung vào “trí tuệ nhân tạo vật lý” – các mô hình được thiết kế để điều khiển máy móc và robot, chứ không chỉ phản hồi bằng văn bản. Đó là một hướng đi khác so với cuộc cạnh tranh chatbot thông thường, và có lẽ là hướng đi thú vị hơn.
Tham vọng rất lớn, nỗ lực này được cho là hướng tới một mô hình nền tảng quy mô rất lớn và một lộ trình dài hướng tới ứng dụng công nghiệp. Nó vừa là chiến lược công nghệ quốc gia, vừa là dự án đột phá, lại vừa giống phim hoạt hình robot với những cuộc họp hội đồng quản trị.
Câu hỏi thường gặp
Tại sao các cơ quan quản lý của Anh lại xem xét kỹ lưỡng mô hình Mythos của Anthropic?
Các báo cáo cho thấy các nhà chức trách Anh coi Mythos là một mối nguy tiềm tàng vì nó có thể đặc biệt giỏi trong việc tìm kiếm các lỗ hổng phần mềm. Các cuộc thảo luận được cho là có sự tham gia của Ngân hàng Anh, Cơ quan Quản lý Tài chính (FCA), Bộ Tài chính và Trung tâm An ninh mạng Quốc gia. Sự kết hợp của các tổ chức này cho thấy mối lo ngại về những tác động có thể xảy ra đối với các hệ thống quan trọng, đặc biệt là trong lĩnh vực tài chính và cơ sở hạ tầng.
Điều gì làm cho mô hình Thần thoại Nhân sinh khác biệt so với một phiên bản AI thông thường?
Mối lo ngại không chỉ đơn thuần là đây là một mô hình mới, mà còn ở chỗ nó dường như đặc biệt có khả năng trong công tác bảo mật phòng thủ liên quan đến việc phát hiện các điểm yếu phần mềm. Theo báo cáo, Anthropic cho biết quyền truy cập bị hạn chế nghiêm ngặt, điều này cho thấy việc triển khai đang được thực hiện thận trọng hơn so với việc ra mắt rộng rãi cho người tiêu dùng. Trên thực tế, điều đó khiến nó giống với một khả năng bảo mật được kiểm soát hơn là một bản cập nhật chatbot thông thường.
Tại sao Claude lại nhận được nhiều sự chú ý đến vậy tại hội nghị HumanX?
Theo bài báo, Claude liên tục được nhắc đến trong các buổi thảo luận nhóm, các cuộc trò chuyện với nhà cung cấp và các cuộc trao đổi không chính thức như một lựa chọn khả thi cho quy trình làm việc kinh doanh và lập trình. Bài báo mô tả Anthropic đang có đà phát triển đáng kể với người dùng doanh nghiệp tại sự kiện đó. Bài báo cũng cho rằng không khí xung quanh HumanX tại ChatGPT có phần trầm lắng hơn, mặc dù OpenAI vẫn có quy mô và nguồn lực rất lớn.
Vậy Claude for Word thực sự mang lại lợi ích gì cho các nhóm làm việc với nhiều tài liệu?
Phiên bản beta được mô tả ở đây được thiết kế để hoạt động bên trong tài liệu chứ không chỉ đơn thuần là tạo ra văn bản độc lập. Nó có thể trả lời các câu hỏi về tài liệu có trích dẫn phần, chỉnh sửa các đoạn văn được chọn mà không làm thay đổi định dạng và xử lý các thay đổi được theo dõi. Điều này làm cho nó đặc biệt phù hợp với các nhóm pháp lý, tài chính và các nhóm khác cần xem xét kỹ lưỡng hơn là soạn thảo sơ bộ.
Tỷ lệ lượt truy cập so với lượt giới thiệu nói lên điều gì về các bot AI và web?
Bài báo trình bày tỷ lệ này như một cách để so sánh mức độ các công ty AI thu thập dữ liệu từ các trang web với tần suất chúng đưa người dùng quay lại. Theo cách nhìn nhận đó, tỷ lệ rất cao cho thấy việc khai thác dữ liệu diễn ra với lưu lượng truy cập ngược lại rất ít. Anthropic được mô tả là hoạt động đặc biệt kém hiệu quả theo thước đo này, điều này càng làm nổi bật những lời chỉ trích rộng rãi hơn rằng các công cụ trả lời dựa trên AI có thể làm suy yếu sự trao đổi thông tin truyền thống trên web, vốn dựa trên việc lập chỉ mục để đổi lấy lượt giới thiệu.
Tại sao người ta lại liên kết sự tiến bộ của trí tuệ nhân tạo với cả vũ khí tự động và trí tuệ nhân tạo vật lý?
Bài báo chỉ ra hai xu hướng có liên quan: các chính phủ đang đẩy nhanh việc phát triển các hệ thống quốc phòng dựa trên trí tuệ nhân tạo (AI), và các công ty như SoftBank đang hỗ trợ các mô hình được thiết kế để điều khiển máy móc và robot. Cả hai cùng cho thấy AI đang vượt ra ngoài phạm vi trò chuyện và tìm kiếm, tiến vào các hệ thống vật lý có khả năng cảm nhận, đưa ra quyết định và hành động. Điều này đặt ra những câu hỏi lớn hơn về kiểm soát, trách nhiệm giải trình, ứng dụng trong công nghiệp và tốc độ chuyển đổi từ giai đoạn thử nghiệm sang vận hành của các hệ thống này.