OpenAI ủng hộ các dự luật tại Quốc hội Hoa Kỳ về trí tuệ nhân tạo và các mối đe dọa từ vũ khí sinh học
OpenAI đang tích cực ủng hộ một loạt dự luật lưỡng đảng về dữ liệu sinh học - Đạo luật Mạng lưới Dữ liệu Sinh học, Đạo luật Tiêu chuẩn Dữ liệu Sinh học Sẵn sàng cho AI, Đạo luật Sinh học Quy mô lớn. Mục tiêu chính: ngăn chặn các mô hình thúc đẩy mạnh mẽ vũ khí sinh học và virus tổng hợp. Một thông cáo báo chí khá nặng nề vào thứ Ba.
Và khoan đã - họ cũng ủng hộ điều khoản trong Đạo luật FRONTIER, điều khoản buộc các phòng thí nghiệm hàng đầu phải có các nhà đánh giá an toàn độc lập. Theo bài báo của tờ Hill, đây là lần đầu tiên họ ký vào một chỉ thị cụ thể của liên bang như vậy.
Vậy là… công ty đã dành nhiều năm nói “hãy tin tưởng chúng tôi” giờ lại đột nhiên yêu cầu Quốc hội buộc các nhà đầu tư bên ngoài phải giám sát hoạt động của họ. Tiến bộ và chiêu trò vận động hành lang có thể song hành cùng nhau.
Dù thế nào đi nữa, thông điệp cũng rất rõ ràng: rủi ro sinh học không còn là một chú thích nhỏ trong các báo cáo chính sách nữa.
Quỹ Gates cho biết họ đang chi 1 tỷ đô la để mở rộng khả năng tiếp cận trí tuệ nhân tạo (AI).
Trong khi các phòng thí nghiệm đang tranh luận về việc có nên kìm hãm tốc độ phát triển hay không, Quỹ Gates vừa cam kết chi ít nhất một tỷ đô la trong hai năm để thúc đẩy trí tuệ nhân tạo đến với những người thường chỉ được hưởng lợi từ những thứ dư thừa.
Phân bổ sơ bộ từ dự án Goalkeepers: khoảng 40% cho giáo dục, 40% cho chăm sóc sức khỏe, 10% cho nông nghiệp, 10% cho ngôn ngữ và cơ sở hạ tầng kỹ thuật số. Hãy nghĩ đến các gia sư toán học, công cụ cho phòng khám nông thôn, trợ giúp về đất/cây trồng - cộng thêm các bộ dữ liệu để các mô hình không chỉ giới hạn ở tiếng Anh mãi mãi.
Quan điểm của Gates rất thẳng thắn - nếu không có sự can thiệp, thị trường sẽ xây dựng trí tuệ nhân tạo cho người giàu nhất trước tiên. Hoạt động từ thiện có thể giống như một giải pháp tạm thời hoặc một miếng băng dán cho một vấn đề mang tính cấu trúc. Tuy nhiên, một tỷ đô la không phải là chuyện nhỏ.
Ngoài ra còn có máy siêu âm AI trên điện thoại hướng đến chất lượng đọc hình ảnh như ở bệnh viện. Sẽ rất ấn tượng nếu được sản xuất hàng loạt.
Mô hình suy luận mới của Salesforce và Nvidia chính là điều mà các phòng thí nghiệm trí tuệ nhân tạo nên lo sợ
Ra mắt tại Dreamforce: Koa. Mô hình suy luận CRM đầu tiên của Salesforce, được huấn luyện trên nền tảng Nemotron mã nguồn mở của Nvidia - hướng đến bộ phận bán hàng, hỗ trợ và các quy trình phức tạp nhiều bước trong doanh nghiệp mà Claude và ChatGPT thường gặp khó khăn.
Không có dữ liệu khách hàng thực tế nào được sử dụng trong quá trình đào tạo - thay vào đó là các hồ sơ khách hàng giả lập, bao gồm cả "những người gọi điện bực bội", điều này gần như quá rõ ràng. Salesforce giữ trọng số trong phạm vi tin cậy của mình. Hệ thống CRM của họ tuyên bố sẽ có ít lỗi hơn với ít token hơn. Kinh tế token. Khẩu hiệu được yêu thích nhất trong ngành.
Chỉ có điều họ không bỏ rơi Anthropic. ClaudeForce vẫn còn tồn tại. Vậy nên, đúng vậy - hãy tự xây dựng công cụ suy luận của riêng bạn và tiếp tục thuê các phòng thí nghiệm tiên phong. Mâu thuẫn. Nhẹ nhàng. Cực kỳ giống Salesforce.
Các dự án thí điểm đã bắt đầu triển khai - Công thức 1, bệnh viện, các tổ chức tín dụng. Có lẽ các phòng thí nghiệm tiên phong nên lo lắng một chút.
Meta giờ đây cho phép các tác nhân AI xử lý những phần nhàm chán trong quá trình thiết lập WhatsApp Business
Động thái của Meta không hẳn là bi kịch hiện sinh, mà giống như một lời kêu gọi "làm ơn đừng bắt các nhà phát triển phải bấm mười hai nút điều khiển nữa". Công cụ WhatsApp Business Tools MCP mới cho phép Claude, Cursor, Codex, ChatGPT - chọn ứng dụng bạn muốn sử dụng - thiết lập tin nhắn doanh nghiệp bằng cách trò chuyện về nó.
Tạo tài khoản. Xác minh số điện thoại. Đăng ký API đám mây. Soạn thảo mẫu. Theo dõi webhook. Thậm chí còn nhắc nhở bạn khi Điều khoản dịch vụ hoặc thanh toán âm thầm thất bại. Những công việc kết nối nhàm chán mà chẳng ai muốn làm.
Việc giới thiệu nhân viên mới cho doanh nghiệp thông qua trò chuyện và MCP ở khắp mọi nơi cho đến khi có sự cố xảy ra theo cách hài hước, cả hai điều này đều có thể đúng.
Tóm lại - nếu việc thiết lập WhatsApp Business của bạn đột nhiên giống như đang nói chuyện với một thực tập sinh hơi quá nhiệt tình, thì giờ bạn đã biết lý do rồi đấy.
Ông Huang của Nvidia có quan điểm khác biệt với các CEO của Anthropic và OpenAI về vấn đề an toàn AI tại Dreamforce
Cùng một sân khấu Moscone, nhưng giọng điệu hoàn toàn trái ngược. Amodei nói với Benioff rằng nhịp độ là cách để lãnh đạo - hãy làm gương, hãy làm tốt hơn. Huang bước lên và gọi tốc độ so với an toàn là một "sự lựa chọn sai lầm". Đó là quy luật thị trường. Không cần luật mới. Hãy chạy nhanh… trừ khi bạn sắp vận chuyển thứ gì đó không an toàn, thì hãy dừng lại.
Altman nói sau đó: an toàn và giám sát quan trọng hơn năng lực. "Không nên có bất kỳ điều kiện ràng buộc nào cho điều đó." Vì vậy, ba CEO không hoàn toàn đồng quan điểm. Có thể là gần nhau.
Trong một ngày diễn thuyết chính, đám đông đã được chứng kiến đủ mọi cung bậc cảm xúc - từ những bài thuyết giảng về sự chậm lại, sự lạc quan của các ông trùm chip, cho đến việc OpenAI nhấn mạnh trách nhiệm mà không hề có bất kỳ lý do bào chữa nào kiểu "trừ khi đối thủ gian lận".
Việc lập luận nào thắng thế trong thực tế vẫn chưa được giải quyết. Hãy xem những gì sẽ ra mắt trong quý tới. Lời nói thì dễ, nhưng GPU thì không.
Cơ quan giám sát dữ liệu Tây Ban Nha công bố báo cáo đầu tiên về vụ rò rỉ dữ liệu liên quan đến tác nhân trí tuệ nhân tạo
Cơ quan bảo vệ dữ liệu cá nhân Tây Ban Nha (AEPD) cho biết họ đã nhận được thông báo đầu tiên về vụ rò rỉ dữ liệu cá nhân được cho là do một tác nhân trí tuệ nhân tạo thực hiện - sử dụng thuật toán LLM phổ biến để tìm lỗ hổng, xâm nhập, chỉnh sửa dữ liệu cá nhân và xem trộm hóa đơn.
Sự can thiệp của con người bị hạn chế ở nhiều giai đoạn tấn công. Đó mới là điều đáng sợ. Không phải khoa học viễn tưởng. Một sự cố liên quan đến giấy tờ với tính năng tự động hóa được tích hợp sẵn.
Cơ quan này rất thận trọng: không nêu tên người mẫu hay nạn nhân; chỉ nói rằng cơ sở hạ tầng của nhà cung cấp không bị xâm phạm chỉ vì ai đó lái xe chở một nhân viên. Vụ việc vẫn đang được xem xét. Vẫn gây bất an.
Một trường hợp đơn lẻ không thể tạo nên xu hướng. Nhưng nó cũng không còn là lý thuyết nữa. Các nhà điều khiển, hãy chuẩn bị đồng hồ bấm giờ - các cuộc tấn công vừa diễn ra nhanh hơn.
Câu hỏi thường gặp
OpenAI đang ủng hộ những dự luật nào về trí tuệ nhân tạo và vũ khí sinh học tại Quốc hội?
OpenAI đã ủng hộ một loạt dự luật lưỡng đảng về dữ liệu sinh học, bao gồm Đạo luật Mạng lưới Dữ liệu Sinh học, Đạo luật Tiêu chuẩn Dữ liệu Sinh học Sẵn sàng cho AI và Đạo luật Sinh học Quy mô lớn. Mục tiêu là ngăn chặn các mô hình thúc đẩy mạnh mẽ vũ khí sinh học và virus tổng hợp. OpenAI cũng ủng hộ điều khoản của Đạo luật FRONTIER buộc các phòng thí nghiệm hàng đầu phải có các nhà đánh giá an toàn độc lập - được cho là lần đầu tiên họ ký kết một chỉ thị cụ thể của liên bang như vậy. Rủi ro sinh học không còn được coi là một chú thích trong báo cáo chuyên ngành nữa.
Quỹ Gates đang chi 1 tỷ đô la cho việc tiếp cận trí tuệ nhân tạo như thế nào?
Quỹ Gates đã cam kết ít nhất một tỷ đô la trong hai năm để mở rộng khả năng tiếp cận AI cho những người thường chỉ được hưởng phần dư thừa. Chương trình Goalkeepers phân bổ khoảng 40% cho giáo dục, 40% cho chăm sóc sức khỏe, 10% cho nông nghiệp và 10% cho ngôn ngữ và cơ sở hạ tầng kỹ thuật số, bao gồm gia sư toán học, công cụ cho phòng khám nông thôn, trợ giúp về đất và cây trồng, và các bộ dữ liệu để các mô hình không chỉ giới hạn ở tiếng Anh mãi mãi. Ông Gates lập luận rằng nếu không có sự can thiệp, thị trường sẽ xây dựng AI cho người giàu trước tiên. Siêu âm AI trên điện thoại nhằm mục tiêu đạt được chất lượng đọc hình ảnh như ở bệnh viện là một ví dụ đầy tham vọng nếu nó được triển khai trên quy mô lớn.
Mô hình suy luận Koa của Salesforce và Nvidia là gì?
Koa là mô hình suy luận CRM đầu tiên của Salesforce, được huấn luyện trên nền tảng Nemotron của Nvidia với trọng số mở và hướng đến các hoạt động bán hàng, hỗ trợ và các quy trình doanh nghiệp phức tạp nhiều bước. Quá trình huấn luyện sử dụng các hồ sơ người dùng tổng hợp - bao gồm cả những người gọi điện khó chịu - thay vì dữ liệu khách hàng thực tế, và Salesforce giữ trọng số trong phạm vi tin cậy của mình. Các hệ thống CRM khác cho thấy ít lỗi hơn với ít token hơn. Salesforce không loại bỏ Anthropic: ClaudeForce vẫn được giữ lại, vì vậy họ đang xây dựng công cụ suy luận riêng của mình trong khi vẫn thuê các phòng thí nghiệm tiên tiến, với các dự án thí điểm đã được triển khai tại Formula 1, bệnh viện và các tổ chức tín dụng.
Meta's WhatsApp Business MCP hỗ trợ các tác nhân AI như thế nào?
Công cụ WhatsApp Business Tools MCP mới của Meta cho phép các đại lý như Claude, Cursor, Codex và ChatGPT thiết lập tin nhắn doanh nghiệp thông qua trò chuyện. Các đại lý có thể tạo tài khoản, xác minh số điện thoại, đăng ký API đám mây, soạn thảo mẫu tin nhắn, theo dõi webhook và nhắc nhở khi điều khoản dịch vụ hoặc thanh toán không thành công. Mục tiêu là thay thế công việc kết nối nhiều giao diện nhàm chán mà không ai muốn thực hiện. Quy trình thiết lập cho doanh nghiệp sẽ trở nên giống như trò chuyện với một thực tập sinh nhiệt tình hơn là phải nhấp vào mười hai màn hình quản trị.
Ông Huang của Nvidia có quan điểm khác biệt như thế nào so với Anthropic và OpenAI về vấn đề an toàn AI?
Tại Dreamforce, Amodei nói với Benioff rằng nhịp độ là cách để lãnh đạo - hãy làm gương và làm tốt hơn - trong khi Jensen Huang gọi việc lựa chọn giữa tốc độ và an toàn là một sự lựa chọn sai lầm do các yếu tố thị trường chi phối, và không cần luật mới trừ khi bạn sắp tung ra sản phẩm không an toàn. Sau đó, Altman nhấn mạnh an toàn và giám sát trước khả năng mà không có bất kỳ điều kiện nào. Ba CEO không cùng quan điểm: trên cùng một sân khấu, họ đưa ra những lời khuyên về việc giảm tốc độ, sự lạc quan về "ông vua chip", và lời kêu gọi trách nhiệm của OpenAI. Những gì được tung ra thị trường trong quý tới sẽ quan trọng hơn những lời phát biểu quan trọng.
Cơ quan giám sát dữ liệu của Tây Ban Nha đã báo cáo gì về vụ xâm phạm dữ liệu của một tác nhân AI?
Cơ quan bảo vệ dữ liệu cá nhân Tây Ban Nha (AEPD) đã công bố thông báo đầu tiên về vụ rò rỉ dữ liệu cá nhân được cho là do một tác nhân AI thực hiện, sử dụng một thuật toán LLM đã biết để tìm lỗ hổng, xâm nhập, chỉnh sửa dữ liệu cá nhân và xem trộm hóa đơn. Điều đáng sợ là sự can thiệp hạn chế của con người trong nhiều giai đoạn tấn công - một sự cố liên quan đến giấy tờ nhưng lại được tích hợp tính tự động. Cơ quan này không nêu tên mô hình hay nạn nhân và cho biết cơ sở hạ tầng của nhà cung cấp không bị xâm phạm chỉ vì ai đó đã điều khiển tác nhân này. Vụ việc vẫn đang được xem xét, nhưng nó không còn chỉ là giả thuyết nữa.