⚖️ Anthropic khởi kiện để ngăn chặn việc Lầu Năm Góc đưa vào danh sách đen vì những hạn chế trong việc sử dụng trí tuệ nhân tạo ↗
Công ty Anthropic đã đưa vụ kiện với Lầu Năm Góc ra tòa sau khi bị gắn mác là rủi ro chuỗi cung ứng. Công ty cho rằng động thái này là hành động trả đũa bất hợp pháp vì Anthropic từ chối nới lỏng các quy định xung quanh vũ khí tự động và giám sát nội địa - điều này khiến tranh chấp này trở thành một trong những điểm nóng dễ bùng phát nhất trong chính sách về trí tuệ nhân tạo hiện nay. ( Reuters )
Chính phủ muốn sự linh hoạt cho "bất kỳ mục đích sử dụng hợp pháp nào", trong khi Anthropic lập luận rằng các phòng thí nghiệm tư nhân vẫn nên được phép đặt ra các giới hạn an toàn nghiêm ngặt. Điều này đã trở thành một trong những phép thử rõ ràng nhất cho đến nay về việc liệu một công ty AI có thể nói "không" với các điều khoản quân sự mà không bị ép buộc hay không. ( Reuters )
🧑💻 Các nhân viên tại OpenAI và Google đều ủng hộ vụ kiện của Anthropic chống lại Lầu Năm Góc ↗
Vụ kiện đó nhanh chóng nhận được sự ủng hộ từ cả các phòng thí nghiệm đối thủ. Gần 40 nhân viên từ OpenAI và Google đã ủng hộ Anthropic trong một bản kiến nghị gửi tòa án, lập luận rằng việc trả đũa các công ty vì vi phạm các giới hạn an toàn AI đi ngược lại lợi ích công cộng. ( The Verge )
Vậy nên, đúng vậy, các đối thủ cạnh tranh đột nhiên thấy mình đứng về cùng một phía - ít nhất là về điểm này. Bản tóm tắt tập trung vào giám sát hàng loạt và vũ khí tự động không đáng tin cậy, điều này khiến toàn bộ sự việc không giống như những lời công kích thông thường ở Thung lũng Silicon mà giống một ranh giới thực sự trong ngành hơn... hay có lẽ là một ranh giới mong manh. ( The Verge )
🛡️ OpenAI mua lại Promptfoo để củng cố sức mạnh cho các tác nhân AI của mình ↗
OpenAI cho biết họ đang mua lại Promptfoo, một công ty khởi nghiệp tập trung vào việc bảo vệ các mô hình ngôn ngữ lớn khỏi các cuộc tấn công đối kháng. Kế hoạch là tích hợp công nghệ của Promptfoo vào OpenAI Frontier, nền tảng doanh nghiệp của công ty dành cho các tác nhân AI. ( TechCrunch )
Đây là một động thái đáng chú ý. Ai cũng muốn trí tuệ nhân tạo (AI) có khả năng hoạt động hiệu quả hơn, nhanh hơn, ở mọi nơi - nhưng khía cạnh an ninh lại tụt hậu, dù chỉ một chút hay rất nhiều. Thỏa thuận này cho thấy OpenAI cho rằng cuộc đua lớn tiếp theo không chỉ là tạo ra các tác nhân thông minh hơn, mà còn là tạo ra các tác nhân an toàn hơn. ( TechCrunch )
🧪 Anthropic ra mắt công cụ kiểm tra mã nguồn để đối phó với lượng lớn mã nguồn do AI tạo ra ↗
Anthropic đã triển khai tính năng Đánh giá Mã (Code Review) bên trong Claude Code, nhằm mục đích hỗ trợ các nhóm đang bị quá tải bởi các yêu cầu kéo (pull request) được tạo ra bởi các công cụ lập trình AI. Tính năng này sử dụng nhiều tác nhân song song để quét mã, đánh dấu các vấn đề logic, xếp hạng mức độ nghiêm trọng và để lại nhận xét trực tiếp trên GitHub. ( TechCrunch )
Ý tưởng khá đơn giản - Trí tuệ nhân tạo (AI) đang tạo ra mã nhanh hơn khả năng xem xét hợp lý của con người, vì vậy giờ đây AI phải xem xét chính AI. Một sự sắp xếp có phần "rắn ăn đuôi mình", nhưng lại rất thiết thực. Anthropic cho biết họ hướng đến người dùng doanh nghiệp, những người đã và đang chứng kiến lượng mã đầu ra khổng lồ từ Claude Code. ( TechCrunch )
💰 Nscale, được Nvidia hậu thuẫn, được định giá 14,6 tỷ đô la trong vòng gọi vốn mới ↗
Công ty cơ sở hạ tầng trí tuệ nhân tạo Nscale của Anh đã huy động được 2 tỷ đô la trong vòng gọi vốn Series C, nâng mức định giá lên 14,6 tỷ đô la. Các nhà đầu tư bao gồm Aker, 8090 Industries, Nvidia, Citadel, Dell và Jane Street - điều này cho thấy sự tin tưởng khá lớn vào công ty. ( Reuters )
Vấn đề này quan trọng vì nó không chỉ là một sản phẩm mới ra mắt hay một sự điều chỉnh nhỏ cho chatbot. Nó liên quan đến khía cạnh cơ sở hạ tầng của sự bùng nổ – điện toán, cơ sở hạ tầng, năng lực, tất cả những cỗ máy nặng nề đằng sau bức màn. Có lẽ không hào nhoáng, nhưng đó là nơi mà phần lớn tiền đang đổ vào. ( Reuters )
🧠 AMI Labs của Yann LeCun huy động được 1,03 tỷ đô la để xây dựng các mô hình toàn cầu ↗
Công ty mới của Yann LeCun, AMI Labs, đã huy động được 1,03 tỷ đô la với mức định giá trước đầu tư là 3,5 tỷ đô la. Công ty này đang theo đuổi "mô hình thế giới" - các hệ thống trí tuệ nhân tạo được thiết kế để học hỏi từ chính thực tế chứ không phải chủ yếu từ ngôn ngữ. ( TechCrunch )
Đó là một cú đánh trực diện về mặt triết học vào sự đồng thuận hiện tại vốn nghiêng về lý thuyết mô hình ngôn ngữ (LLM TechCrunch )
🇨🇳 Các trung tâm công nghệ Trung Quốc quảng bá phần mềm AI OpenClaw bất chấp cảnh báo an ninh ↗
Một số chính quyền địa phương Trung Quốc đang ủng hộ OpenClaw, một trợ lý ảo đang lan rộng nhanh chóng bất chấp những lo ngại về an ninh liên quan đến việc nó truy cập dữ liệu cá nhân. Vì vậy, quan điểm chính thức dường như là: vâng, có rủi ro - và vâng, hãy cứ mở rộng quy mô nó. ( Reuters )
Sự chia rẽ đó chính là câu chuyện. Các trung tâm địa phương muốn hưởng lợi về kinh tế và động lực phát triển hệ sinh thái, trong khi các cơ quan quản lý lại cảnh báo về nguy cơ rò rỉ dữ liệu. Đây là một mô hình quen thuộc trong lĩnh vực trí tuệ nhân tạo - tăng tốc trước, rồi mới chỉnh sửa các biện pháp bảo vệ sau, hoặc ít nhất là có vẻ như vậy. ( Reuters )
Câu hỏi thường gặp
Tại sao Anthropic lại kiện Lầu Năm Góc về các hạn chế sử dụng trí tuệ nhân tạo?
Anthropic cho biết Lầu Năm Góc đã coi họ là một rủi ro chuỗi cung ứng sau khi công ty này từ chối các điều khoản rộng hơn có thể mở rộng sang vũ khí tự động và giám sát nội địa. Điều đó khiến vụ kiện không chỉ đơn thuần là về vị thế nhà cung cấp. Nó đang kiểm tra xem một phòng thí nghiệm trí tuệ nhân tạo có thể duy trì các giới hạn an toàn nghiêm ngặt và vẫn cạnh tranh để giành được các dự án của chính phủ mà không bị phạt hay không.
Tại sao các nhân viên của OpenAI và Google lại ủng hộ Anthropic trong tranh chấp về an toàn AI này?
Bản kiến nghị của bên thứ ba cho thấy nhiều người trong các phòng thí nghiệm đối thủ coi đây là một vấn đề an toàn AI mang tính tiền lệ, chứ không chỉ đơn thuần là cuộc chiến giữa một công ty và một cơ quan. Mối lo ngại của họ là việc trừng phạt một nhà cung cấp vì duy trì các giới hạn an toàn có thể gây áp lực lên thị trường rộng lớn hơn, dẫn đến việc làm suy yếu các biện pháp bảo vệ. Trên thực tế, điều đó có thể định hình cách thức đàm phán các hợp đồng AI trong lĩnh vực quốc phòng và khu vực công trong tương lai.
Vụ kiện Anthropic-Pentagon có thể thay đổi chính sách về trí tuệ nhân tạo và các hợp đồng quốc phòng như thế nào?
Nếu Anthropic thắng kiện, các công ty AI có thể có cơ sở vững chắc hơn để định nghĩa các trường hợp sử dụng không thể chấp nhận được, ngay cả khi bán sản phẩm cho các môi trường chính phủ nhạy cảm. Nếu thua kiện, các cơ quan có thể giành được đòn bẩy để yêu cầu các nhà cung cấp đưa ra các điều khoản "sử dụng hợp pháp" rộng hơn. Dù thế nào đi nữa, tranh chấp này có khả năng ảnh hưởng đến ngôn ngữ đấu thầu, đánh giá rủi ro và cách thức các điều khoản bảo vệ an toàn được đưa vào các thỏa thuận quốc phòng.
Tại sao OpenAI lại mua Promptfoo để phát triển các tác nhân AI?
Promptfoo nổi tiếng với việc kiểm tra các mô hình ngôn ngữ quy mô lớn trước các lời nhắc độc hại và các điểm yếu bảo mật khác. Việc tích hợp loại công cụ này vào nền tảng tác nhân doanh nghiệp của OpenAI cho thấy công ty coi việc triển khai an toàn hơn là một lợi thế cạnh tranh chứ không phải là một nhiệm vụ phụ. Khi các tác nhân AI đảm nhận nhiều công việc quan trọng hơn, việc kiểm tra khả năng phục hồi và chống lại các hành vi lạm dụng trở nên khó có thể bỏ qua hơn.
Làm thế nào các nhóm có thể xử lý lượng mã do AI tạo ra một cách an toàn hơn?
Tính năng Đánh giá Mã mới của Anthropic trong Claude Code hướng đến các nhóm đang bị quá tải bởi các yêu cầu kéo (pull request) được tạo ra bởi các công cụ lập trình AI. Nó sử dụng nhiều tác nhân song song để phát hiện các vấn đề logic, xếp hạng mức độ nghiêm trọng và để lại nhận xét trên GitHub. Thông thường, các công cụ như thế này giúp phân loại khối lượng yêu cầu, nhưng người đánh giá vẫn đóng vai trò quan trọng đối với kiến trúc, ngữ cảnh và sự phê duyệt cuối cùng.
Tại sao cơ sở hạ tầng AI lại nhận được nhiều đầu tư đến vậy vào thời điểm hiện tại?
Vòng gọi vốn mới nhất của Nscale cho thấy ngành công nghiệp AI vẫn đang đổ một lượng vốn khổng lồ vào điện toán, cơ sở hạ tầng và năng lực. Khoản chi tiêu đó có thể ít được chú ý hơn so với một buổi ra mắt mô hình hoành tráng, nhưng nó là nền tảng của mọi thứ khác. Khi nhu cầu đào tạo và triển khai tiếp tục tăng, các công ty bán các công cụ đào tạo thường trở thành những người chiến thắng lớn nhất.
Mô hình toàn cầu là gì, và tại sao Yann LeCun lại đặt cược vào chúng?
Các mô hình thế giới là các hệ thống AI được thiết kế để học hỏi từ cách thế giới vận hành, thay vì chủ yếu dựa vào dữ liệu ngôn ngữ. Điều đó rất quan trọng bởi vì Yann LeCun từ lâu đã lập luận rằng bản thân các mô hình ngôn ngữ khó có thể đạt đến trí thông minh ngang tầm con người. AMI Labs biến quan điểm đó thành một canh bạc thương mại lớn theo đuổi một con đường khác cho nghiên cứu AI tiên tiến.
Tại sao các trung tâm công nghệ Trung Quốc lại ủng hộ OpenClaw bất chấp những cảnh báo về bảo mật?
Câu chuyện về OpenClaw cho thấy một sự phân hóa quen thuộc trong các thị trường công nghệ phát triển nhanh: chính quyền địa phương muốn tăng trưởng, trợ cấp và động lực của hệ sinh thái, trong khi các cơ quan quản lý lo ngại về việc dữ liệu bị lộ và vấn đề bảo mật. Việc ủng hộ tác nhân này bất chấp những cảnh báo cho thấy các động lực kinh tế đang chiếm ưu thế ở một số nơi. Đối với các nhà quan sát, đây là một lời nhắc nhở nữa rằng việc áp dụng thường diễn ra nhanh hơn so với việc giám sát.