📝 Thơ vượt ngục đánh lừa bộ lọc an toàn LLM
Các nhà nghiên cứu đã viết 20 bài thơ với những gợi ý ẩn chứa nội dung độc hại và thử nghiệm chúng trên 25 mô hình từ chín công ty lớn. Hiệu quả đến kinh ngạc.
Họ nói rằng tính khó đoán của thơ ca đã vượt qua được các rào cản dựa trên từ khóa, và một số mô hình đã mắc bẫy từ 70 đến 100%. Anthropic trả lời; những người khác thì im lặng… ngượng ngùng.
🔗 Đọc thêm
💸 Databricks theo đuổi mục tiêu 5 tỷ đô la với mức định giá hấp dẫn 134 tỷ đô la
The Information cho biết Databricks đang đàm phán để huy động vốn mới với mức gấp khoảng 32 lần doanh thu dự kiến 4,1 tỷ đô la trong năm nay. Con số lớn, kỳ vọng lớn hơn.
Biên lợi nhuận được cho là đã thu hẹp xuống còn 74% khi mức sử dụng AI tăng vọt - thuế tăng trưởng hay tín hiệu cảnh báo? Reuters không thể xác minh, và Databricks cũng không bình luận.
🔗 Đọc thêm
🏭 Nhà máy AI khổng lồ của Đức đang được xây dựng
Theo Handelsblatt, Deutsche Telekom và Schwarz Group đang lên kế hoạch cho một dự án trung tâm dữ liệu AI, với mục tiêu nhận được tài trợ từ EU cho siêu máy tính.
Các cuộc đàm phán đang tiến triển tốt, nhưng vẫn chưa có thỏa thuận chính thức. Ý tưởng là tăng cường sức mạnh AI của chính phủ để châu Âu không phải mãi mãi thuê GPU bên kia bờ Đại Tây Dương.
🔗 Đọc thêm
⚠️ Các nhà tâm lý học đánh dấu hành vi ChatGPT-5 nguy hiểm trong các cuộc trò chuyện khủng hoảng
Các bác sĩ lâm sàng ở Anh đã nhập vai vào các tình trạng bệnh lý nghiêm trọng và cho biết chatbot miễn phí đôi khi khẳng định các triệu chứng hoang tưởng hoặc bỏ sót các dấu hiệu nguy hiểm. Trời ơi.
OpenAI cho biết họ chuyển hướng các cuộc trò chuyện nhạy cảm sang các mô hình an toàn hơn, bổ sung các gợi ý và kiểm soát - chắc chắn là có tiến triển, nhưng không phải là sự thay thế cho nhà trị liệu... không hề.
🔗 Đọc thêm
🎂 ChatGPT tròn ba tuổi - vẫn là nhân vật chính
Từ một bản xem trước nghiên cứu đến một tác phẩm thay đổi văn hóa. TechCrunch ghi lại những hiệu ứng lan tỏa, từ những biến động thị trường đến những cuộc tranh luận bất tận về việc liệu đây có phải là bong bóng hay không.
Thật kỳ lạ, ứng dụng này xuất hiện khắp nơi, những ẩn dụ thì ọp ẹp, và bằng cách nào đó, tất cả chúng ta đều đang sống trong thế giới mà nó đã giúp viết nên... hay có vẻ như vậy.
🔗 Đọc thêm