Bộ quy tắc ứng xử mới dành cho trí tuệ nhân tạo của Microsoft hướng dẫn các mô hình không được xâm nhập hệ thống hoặc lừa gạt con người
Được rồi, vậy là Microsoft đã đưa ra cả một bản hiến pháp cho các mô hình của mình - kiểu như, những giới hạn đỏ thực sự. Không được tấn công mạng. Không được dùng vũ khí hạt nhân. Không được sản xuất deepfake. Và điều quan trọng nhất: mô hình không được phép tìm cách trốn tránh việc bị tắt.
Họ gọi đó là một quy tắc tổng quát ghi đè lên bất cứ thứ gì bạn đã nhập vào khung chat. Điều này… khá mới mẻ. Hoặc có thể là mang tính kiểm soát. Có lẽ cả hai.
Nadella cũng đang gật đầu đồng tình với những người theo chủ nghĩa "mở đường tiên phong". Tư thế thận trọng và nhận thức về tình hình khó khăn có thể trông giống nhau từ bên ngoài; Microsoft đang chọn cách không trở thành một phòng thí nghiệm thờ ơ.
Dù sao thì văn bản này cũng giống như ai đó cuối cùng cũng đã viết ra câu "xin đừng trở thành nhân vật phản diện trong phim kinh dị" bằng ngôn ngữ doanh nghiệp.
Theo một báo cáo, OpenAI đã mua lại nhà sản xuất camera điện thoại thông minh Glass Imaging với giá 300 triệu đô la
Trong khi đó, OpenAI âm thầm mua lại một công ty khởi nghiệp về máy ảnh với giá hơn 300 triệu đô la. Glass Imaging. Được thành lập bởi những người từng làm việc tại Apple với mảng Chế độ Chân dung. Vì vậy, đây không phải là một thương vụ mua lại ngẫu nhiên - những người này đã từng cho ra mắt những ống kính mà mọi người đều biết.
Ý tưởng không phải là "Trí tuệ nhân tạo sẽ sửa ảnh selfie của bạn sau khi chụp". Mà là mạng lưới thần kinh học hỏi từ các camera cụ thể trên điện thoại và cho ra những bức ảnh tốt hơn ngay khi nhấn nút chụp. Cảm biến nhỏ, tham vọng lớn.
OpenAI không đưa ra bình luận nào. Tất nhiên rồi. Và đúng vậy - thông tin này xuất hiện cùng với tất cả những tin đồn về phần cứng, điện thoại, tai nghe và các thiết bị phụ trợ khác. Bạn gần như có thể hình dung ai đó nói "hệ thống xử lý hình ảnh" trong một cuộc họp và mọi người đều gật đầu lia lịa.
Việc một công ty sản xuất camera trở thành mảnh ghép còn thiếu cho một thiết bị vẫn là một ẩn số - hoặc chỉ là một canh bạc rất tốn kém với hy vọng rằng điểm ảnh vẫn còn quan trọng khi chatbot đang thống trị thế giới.
Cổ phiếu AI toàn cầu giảm giá khi các nhà lãnh đạo ngành kêu gọi làm chậm quá trình phát triển
Thị trường không mấy mặn mà với những lời cảnh báo về an toàn. Cổ phiếu các công ty chip bị ảnh hưởng nặng nề. SoftBank bị thua lỗ nặng ở châu Á. Thị trường công nghệ châu Âu cũng không mấy khả quan. Chỉ số SOX có một buổi sáng khó khăn.
Nguyên nhân chính là khoảnh khắc hiếm hoi các CEO đồng ý với nhau về một điều gì đó - lời kêu gọi "hãy chậm lại", và Altman cùng Musk về cơ bản cũng nói "vâng". Altman cũng đưa ra giả thuyết rằng OpenAI sẽ không IPO trong năm nay vì lo ngại về vấn đề an toàn… trong khi Anthropic vẫn đang gấp rút tiến tới IPO. Sự căng thẳng đó rất khó để xoa dịu.
Trump gạt bỏ nó như một "âm mưu bệnh hoạn" chống lại trí tuệ nhân tạo và các trung tâm dữ liệu. Michael Burry bác bỏ những cảnh báo đó là những lời thổi phồng quá mức. Vì vậy, tâm trạng hiện tại là: nỗi sợ hãi hiện sinh trên một mặt, và sự hoài nghi kiểu meme trên mặt khác.
Ngoài ra, cổ phiếu các công ty an ninh mạng cũng tăng mạnh. Bởi vì, dĩ nhiên, biện pháp phòng ngừa trước nguy cơ "AI có thể vượt tầm kiểm soát" là "mua thêm phần mềm bảo mật". Chủ nghĩa tư bản luôn tìm ra cách…
Các công ty hàng đầu về trí tuệ nhân tạo đã thảo luận về việc thành lập cơ quan tiêu chuẩn riêng của họ
CNN đưa tin Anthropic, Google và OpenAI đã thảo luận về việc thành lập một cơ quan tiêu chuẩn riêng – giống như FINRA dành cho các mô hình tiên tiến. Hassabis đã đưa ra ý tưởng này cách đây vài tháng. Giờ đây, các nhóm làm việc dường như đã trở thành hiện thực.
Được tài trợ bởi ngành công nghiệp. Các chuyên gia độc lập. Thử nghiệm các mẫu tiên tiến trước khi đưa ra thị trường. Các cuộc thảo luận vẫn đang diễn ra về việc Washington có muốn tham gia hay không.
Tự điều chỉnh nghe có vẻ cao quý cho đến khi bạn nhớ rằng các phòng thí nghiệm đó cũng đang cạnh tranh gay gắt với nhau. Lúc đó, nó lại giống như một câu lạc bộ có quy định về trang phục. Rồi bạn lại suy nghĩ ngược lại: được rồi, có lẽ việc có các nhà đánh giá bên ngoài với quyền truy cập giống như nhân viên sẽ hữu ích.
Không phải ai cũng đồng ý. Theo các nguồn tin, Zuckerberg đã khuyên Trump nên bỏ qua ý tưởng thành lập một cơ quan quản lý giống như FINRA dành cho trí tuệ nhân tạo. Vì vậy, liên minh "chúng ta sẽ tự quản lý lẫn nhau" đã có một thành viên nổi tiếng phản đối.
Anthropic nhắm mục tiêu vào các cố vấn tài chính với công cụ Claude mới
Trong khi một nửa ngành đang tranh luận về việc giảm tốc độ, Anthropic đã tung ra Claude dành cho các cố vấn tài chính. Nó tích hợp các công cụ kết nối với BlackRock, Schwab, Addepar - cùng với hàng loạt các tên tuổi trong lĩnh vực quản lý tài sản như Envestnet và Orion.
Chuẩn bị cho cuộc họp. Xem xét hồ sơ năng lực. Những việc lặt vặt cần theo dõi. Những thứ không hào nhoáng nhưng lại chiếm hết thời gian ngày thứ Ba của con người.
Thời điểm này khá đáng chú ý - chỉ vài ngày sau khi OpenAI đẩy mạnh mảng tài chính hướng đến các nhà ngân hàng và nhà nghiên cứu. Vì vậy, đúng là họ đang dẫn đầu xu hướng… và cũng đang chạy đua giành thị phần trong lĩnh vực quản lý tài sản. Mâu thuẫn nhẹ. Cực kỳ nhẹ. Cực kỳ rõ ràng.
Nếu cố vấn của bạn bắt đầu nói về các khoản đầu tư của bạn một cách đáng ngờ và trôi chảy, thì... giờ bạn đã biết lý do rồi đấy.
Các nhà lãnh đạo AI đang kêu gọi giảm tốc độ. Nhóm của Trump nói rằng đó là trách nhiệm của họ
Tạp chí WIRED đã nắm bắt được điểm mấu chốt về mặt chính trị một cách rõ ràng: các ông chủ phòng thí nghiệm muốn được giúp đỡ để giảm tốc độ làm việc; còn tâm trạng của Nhà Trắng là "được thôi, tự làm đi"
Về cơ bản, David Sacks nói rằng nếu những mẫu sản phẩm chưa được phát hành của bạn khiến bạn lo ngại, hãy có trách nhiệm - nhưng đừng giả vờ rằng bạn cần giấy phép chống độc quyền để thành lập một liên minh an toàn. Khá gay gắt. Nhưng cũng khó mà phản bác nếu bạn đã quan sát các công ty này trong năm phút.
Quan điểm của Trump đơn giản hơn: Mỹ dẫn đầu Trung Quốc về trí tuệ nhân tạo và ông muốn duy trì vị thế đó - “ai thắng trong lĩnh vực trí tuệ nhân tạo thì người đó thắng”. Chủ tịch Hạ viện Johnson cảnh báo rằng một cuộc chạy đua khẩn cấp về quy định có thể khiến Mỹ mất lợi thế trong cuộc đua này.
Vì vậy, lời hứa của Altman về việc "các nhà đánh giá độc lập có quyền truy cập như nhân viên" rơi vào khoảng trống khó xử này - việc xây dựng lòng tin tự nguyện trong khi chính phủ thờ ơ. Tiến bộ và nghệ thuật sân khấu lại một lần nữa song hành cùng nhau.
Câu hỏi thường gặp
Bộ quy tắc ứng xử mới về trí tuệ nhân tạo của Microsoft cấm những gì?
Microsoft đã công bố một bộ quy tắc ứng xử toàn diện với các giới hạn nghiêm ngặt dành cho các mô hình của mình, bao gồm không tấn công mạng, không nghiên cứu hạt nhân và không tạo ra các xưởng sản xuất deepfake. Một quy tắc quan trọng là mô hình không được phép tìm cách trốn tránh việc bị tắt. Bộ quy tắc này nhằm mục đích ghi đè lên bất cứ điều gì người dùng đã nhập vào khung chat. Satya Nadella cũng đang gật đầu đồng tình với những người ủng hộ việc tiên phong trong lĩnh vực này khi các phòng thí nghiệm ngày càng thận trọng hơn trước công chúng.
Tại sao OpenAI lại mua Glass Imaging với giá khoảng 300 triệu đô la?
Theo các nguồn tin, OpenAI đã mua lại nhà sản xuất camera điện thoại thông minh Glass Imaging với giá hơn 300 triệu đô la. Công ty khởi nghiệp này được thành lập bởi các kỹ sư từng làm việc tại Apple chuyên về Chế độ Chân dung, những người đã phát triển các tính năng camera mà người dùng đã quen thuộc. Ý tưởng của họ là sử dụng mạng nơ-ron để học hỏi từ các camera điện thoại cụ thể và cải thiện ảnh ngay khi nhấn nút chụp, chứ không chỉ đơn thuần là sửa lỗi bằng AI trong khâu hậu kỳ. Thương vụ này diễn ra cùng lúc với những tin đồn về phần cứng như điện thoại, tai nghe và các thiết bị đi kèm, mặc dù OpenAI chưa đưa ra bình luận nào.
Vì sao cổ phiếu AI toàn cầu giảm sau khi các CEO của các phòng thí nghiệm kêu gọi giảm tốc độ phát triển?
Thị trường phản ứng tiêu cực trước khoảnh khắc hiếm hoi các CEO đồng thuận khi Amodei kêu gọi giảm tốc độ phát triển và Altman cùng Musk về cơ bản đồng tình. Cổ phiếu chip bị ảnh hưởng, SoftBank bị thiệt hại nặng nề ở châu Á, thị trường công nghệ châu Âu chao đảo, và chỉ số SOX có một buổi sáng khó khăn. Altman cũng đưa ra thông tin rằng OpenAI sẽ không IPO trong năm nay vì lo ngại về an toàn, trong khi Anthropic vẫn đang gấp rút tiến tới IPO. Cổ phiếu an ninh mạng tăng giá như một biện pháp phòng ngừa trước nỗi lo sợ về trí tuệ nhân tạo nguy hiểm.
Liệu Anthropic, Google và OpenAI có đang thành lập một tổ chức tiêu chuẩn riêng cho trí tuệ nhân tạo (AI)?
CNN đưa tin Anthropic, Google và OpenAI đã thảo luận về việc thành lập một cơ quan tiêu chuẩn ngành - giống như FINRA dành cho các mô hình tiên tiến - với nguồn tài trợ từ ngành, các chuyên gia độc lập và thử nghiệm trước khi đưa ra thị trường các mô hình hiện đại. Demis Hassabis đã đưa ra ý tưởng này cách đây vài tháng, và hiện các nhóm làm việc được cho là đã chính thức thành lập. Các cuộc thảo luận vẫn đang tiếp diễn về việc liệu Washington có muốn tham gia hay không. Không phải ai cũng đồng ý: Zuckerberg được cho là đã khuyên Trump nên bỏ qua ý tưởng FINRA dành cho AI.
Claude của Anthropic dành cho các cố vấn tài chính là gì?
Anthropic đã ra mắt Claude for Financial Advisors với các kết nối đến BlackRock, Schwab, Addepar và các công ty quản lý tài sản lớn như Envestnet và Orion. Công cụ này nhắm đến những công việc không mấy hào nhoáng của cố vấn tài chính như chuẩn bị cuộc họp, xem xét danh mục đầu tư và các công việc theo dõi sau đó. Việc ra mắt diễn ra vài ngày sau khi OpenAI đẩy mạnh mảng tài chính dành cho các nhà ngân hàng và nhà nghiên cứu. Điều đó có nghĩa là các phòng thí nghiệm đang dẫn đầu trong lĩnh vực này trước công chúng trong khi vẫn đang chạy đua giành thị phần từ các công ty tư vấn đầu tư độc lập (RIA).
Nhóm của ông Trump đã phản ứng như thế nào trước lời kêu gọi làm chậm lại tốc độ phát triển của các nhà lãnh đạo trong lĩnh vực trí tuệ nhân tạo?
Tạp chí WIRED đưa tin các lãnh đạo phòng thí nghiệm muốn được giúp đỡ để làm chậm tiến độ, trong khi Nhà Trắng lại cho rằng họ nên tự làm điều đó. David Sacks nói rằng nếu các mô hình chưa được công bố khiến bạn lo ngại, hãy có trách nhiệm - nhưng đừng giả vờ rằng bạn cần được miễn trừ luật chống độc quyền để thành lập một liên minh an toàn. Quan điểm đơn giản hơn của Trump là Mỹ đang dẫn trước Trung Quốc về trí tuệ nhân tạo và ai thắng trong lĩnh vực này thì người đó thắng. Chủ tịch Hạ viện Johnson cảnh báo rằng một cuộc chạy đua khẩn cấp về quy định có thể khiến Mỹ mất lợi thế trong cuộc đua, bỏ ngỏ cam kết về việc bổ nhiệm người đánh giá độc lập của Altman.