Kết quả ban đầu của Jalapeño cho thấy tốc độ và hiệu quả hàng đầu trong ngành về suy luận AI ↗
OpenAI đã công bố kết quả hiệu năng đầu tiên của Jalapeño, chip suy luận tùy chỉnh của họ. Trên GPT-OSS 120B, họ cho biết chip này mang lại thông lượng đỉnh trên mỗi kilowatt cao hơn khoảng 1,9 lần và độ trễ đầu cuối thấp hơn khoảng 1,7 lần so với hệ thống so sánh.
Những cải tiến này cũng được áp dụng cho DeepSeek R1 và Kimi K2.5. OpenAI dự định triển khai Jalapeño trong cơ sở hạ tầng điện toán riêng của mình, trong khi các thiết kế thế hệ thứ hai và thứ ba đã đang được tiến hành... vì vậy, đúng vậy, OpenAI đang ngày càng trở thành một công ty sản xuất chip, theo một nghĩa nào đó. (OpenAI)
Cuối cùng Claude Cowork cũng nhớ những gì bạn đã nói với ứng dụng trong cuộc trò chuyện ↗
Anthropic đã hợp nhất bộ nhớ của Claude trên cả các cuộc trò chuyện thông thường và không gian làm việc chung. Thông tin thu được trong các cuộc trò chuyện giờ đây có thể được theo người dùng vào các nhiệm vụ do chính họ thực hiện, loại bỏ cái thói quen hơi khó chịu là phải giải thích cùng một dự án hết lần này đến lần khác.
Người dùng có thể xem, chỉnh sửa và xóa các chủ đề đã được ghi nhớ, trong khi các ký ức được cập nhật ngay khi cuộc trò chuyện vẫn đang diễn ra. Tính năng này được bật mặc định trên tất cả các gói Free, Pro và Max. (TechCrunch)
Google Cloud ra mắt Gemini Enterprise dành cho lĩnh vực pháp lý ↗
Google Cloud vừa ra mắt gói Gemini Enterprise được thiết kế riêng cho luật sư, giúp các nhân viên của mình vượt ra khỏi phạm vi trò chuyện thông thường để thực hiện các công việc như xem xét hợp đồng, nghiên cứu pháp lý, giám sát quy định, yêu cầu bảo mật và soạn thảo tài liệu.
Nó bao gồm các trình kết nối cho các nền tảng như Harvey, iManage, Docusign, RelativityOne và Thomson Reuters, đồng thời vẫn duy trì các quyền truy cập và rào cản đạo đức hiện có của các công ty. Cuộc chạy đua giành thị phần của các tác nhân AI đã lan đến bộ phận pháp lý... điều này có thể dự đoán được, nhưng vẫn diễn ra khá nhanh chóng. (Góc báo chí của Google Cloud)
Google Cloud ra mắt Gemini Enterprise dành cho các dịch vụ tài chính ↗
Google cũng ra mắt gói dịch vụ Gemini Enterprise chuyên biệt cho lĩnh vực tài chính, bao gồm một đại lý Nghiên cứu Tài chính được quản lý, hơn 50 kỹ năng chuyên biệt và 13 trình kết nối với các hệ thống dữ liệu tài chính và thị trường.
Nền tảng này nhắm đến các quy trình làm việc bao gồm đánh giá rủi ro tín dụng, giám sát danh mục đầu tư, nghiên cứu KYC và phân tích thị trường. CME Group và Deutsche Bank nằm trong số các tổ chức đã tham gia - các tác nhân doanh nghiệp đang ngày càng chuyên môn hóa, gần giống như phần mềm khoác lên mình bộ vest. (Góc báo chí của Google Cloud)
NVIDIA công bố máy tính robot Jetson Orin Nano 2, định nghĩa lại trí tuệ nhân tạo biên cấp thấp ↗
Nvidia đã giới thiệu Jetson Orin Nano 2, một máy tính nhỏ gọn hướng đến robot, máy bay không người lái và các hệ thống trí tuệ nhân tạo vật lý khác. Nó cung cấp 78 nghìn tỷ phép tính mỗi giây, 8GB bộ nhớ và CPU Arm tám lõi.
Nvidia cho biết hiệu năng suy luận tăng gấp đôi so với Nano Super thế hệ trước, trong khi vẫn có thể đạt được hiệu năng tương đương với mức tiêu thụ điện năng thấp hơn tới 40%. Điều thú vị ở đây là các mẫu nhỏ hơn thực sự có khả năng hoạt động trên phần cứng nhỏ gọn - trí tuệ nhân tạo không còn cần phải kết nối với trung tâm dữ liệu khổng lồ nữa. (Phòng tin tức NVIDIA)
Perplexity hợp tác với Nvidia để ra mắt Portable Computer, một tác nhân AI hoàn toàn cục bộ với chi phí token bằng không ↗
Perplexity đã ra mắt Portable Computer, mang trải nghiệm máy tính dựa trên tác nhân của mình lên phần cứng cục bộ được hỗ trợ bởi Nvidia. Các mô hình, tệp và quá trình thực thi tác nhân có thể được lưu giữ trên máy tính của người dùng, và công việc hoàn thành cục bộ sẽ không tiêu tốn bất kỳ khoản phí nào từ dịch vụ đám mây.
Các tác vụ bắt đầu cục bộ, và hệ thống sẽ yêu cầu sự cho phép trước khi chuyển sang mô hình điện toán đám mây tiên tiến hơn. Nó được triển khai xung quanh Nvidia DGX Spark và các hệ thống Linux với GPU RTX đủ mạnh - quyền riêng tư và chi phí đột nhiên trở thành một phần của lời chào hàng về AI cục bộ, chứ không chỉ là tốc độ. (Venturebeat)
Theo WSJ, Anthropic dự kiến sẽ thông báo với các nhà đầu tư rằng họ nhận thấy tiềm năng doanh thu hơn 30 nghìn tỷ đô la ↗
các nguồn tin, Anthropic đang chuẩn bị thông báo với các nhà đầu tư rằng thị trường tiềm năng của họ có thể vượt quá 30 nghìn tỷ đô la. Điều quan trọng cần phân biệt là đây là cơ hội hàng năm trên lý thuyết nếu trí tuệ nhân tạo (AI) đảm nhận được các công việc liên quan, chứ không phải Anthropic dự đoán họ sẽ đạt được doanh thu 30 nghìn tỷ đô la. (Reuters)
Con số khổng lồ này giúp làm rõ chi tiêu cho cơ sở hạ tầng của Anthropic, sự cạnh tranh với OpenAI và Google, cũng như câu chuyện đầu tư rộng hơn. Đó là một con số lớn đến kinh ngạc... ngay cả theo tiêu chuẩn số liệu của ngành công nghiệp AI. (Reuters)
Câu hỏi thường gặp
Kết quả nghiên cứu về khoai tây chiên vị ớt Jalapeño của OpenAI có ý nghĩa gì đối với suy luận trí tuệ nhân tạo?
OpenAI cho biết Jalapeño mang lại thông lượng đỉnh cao hơn trên mỗi kilowatt và độ trễ đầu cuối thấp hơn so với hệ thống so sánh khi chạy GPT-OSS 120B. Những cải thiện tương tự cũng được ghi nhận với DeepSeek R1 và Kimi K2.5. Kết quả cho thấy OpenAI đang ngày càng thiết kế phần cứng xoay quanh các yêu cầu cụ thể về hiệu quả và tốc độ của suy luận AI quy mô lớn.
Bộ nhớ được chia sẻ của Claude hoạt động như thế nào giữa cuộc trò chuyện và không gian làm việc chung?
Giờ đây, Claude có thể tích hợp thông tin thu thập được từ các cuộc trò chuyện thông thường vào các nhiệm vụ Cowork, giảm thiểu việc phải giải thích cùng một dự án hoặc bối cảnh nhiều lần. Người dùng có thể xem, chỉnh sửa và xóa các chủ đề đã ghi nhớ, trong khi những ghi nhớ này sẽ tiếp tục được cập nhật khi cuộc trò chuyện phát triển. Theo thông báo được đề cập trong bài báo, tính năng này được bật mặc định trên tất cả các gói Free, Pro và Max.
Gemini Enterprise dành cho lĩnh vực dịch vụ pháp lý và tài chính có thể làm được những gì?
Các gói dịch vụ Gemini Enterprise chuyên dụng của Google Cloud hướng đến các quy trình làm việc đặc thù của từng ngành chứ không phải là trò chuyện AI chung chung. Gói dành cho lĩnh vực pháp lý bao gồm các lĩnh vực như xem xét hợp đồng, nghiên cứu, giám sát quy định, yêu cầu bảo mật và soạn thảo văn bản, trong khi phiên bản dành cho lĩnh vực dịch vụ tài chính hỗ trợ các quy trình làm việc bao gồm đánh giá rủi ro tín dụng, giám sát danh mục đầu tư, nghiên cứu KYC và phân tích thị trường. Cả hai đều có thể kết nối với các hệ thống phần mềm và dữ liệu chuyên nghiệp hiện có.
Tại sao suy luận AI cục bộ ngày càng trở nên quan trọng?
Suy luận AI cục bộ có thể tăng cường quyền riêng tư, giảm sự phụ thuộc vào cơ sở hạ tầng đám mây và có khả năng giảm chi phí sử dụng liên tục. Nvidia Jetson Orin Nano 2 nhắm đến robot, máy bay không người lái và các hệ thống biên khác, trong khi Máy tính di động của Perplexity giữ các mô hình, tệp và quá trình thực thi tác nhân trên phần cứng cục bộ tương thích. Trong nhiều quy trình làm việc, các mô hình đám mây sau đó có thể được dành riêng cho các tác vụ yêu cầu khả năng bổ sung.
Máy tính xách tay Perplexity quyết định khi nào nên sử dụng trí tuệ nhân tạo đám mây như thế nào?
Các tác vụ được thiết kế để bắt đầu trên phần cứng Nvidia cục bộ của người dùng, giữ cho việc thực thi mô hình và các tệp tương thích được lưu trữ trên máy. Nếu một bước yêu cầu mô hình đám mây tiên tiến, hệ thống sẽ hỏi người dùng sự cho phép trước khi chuyển tiếp. Công việc hoàn thành cục bộ không tiêu tốn tín dụng thanh toán đám mây, làm cho phương pháp này phù hợp với người dùng quan tâm đến cả quyền riêng tư và chi phí suy luận định kỳ.
Con số ước tính thị trường AI trị giá 30 nghìn tỷ đô la mà Anthropic đưa ra có ý nghĩa gì?
Con số được đề cập ở đây phản ánh quan điểm của Anthropic về tổng thị trường tiềm năng mà AI có thể tiếp cận, chứ không phải là dự đoán rằng bản thân Anthropic sẽ tạo ra doanh thu 30 nghìn tỷ đô la mỗi năm. Nó thể hiện giá trị lý thuyết của những công việc mà AI có thể giải quyết trên toàn nền kinh tế. Ước tính này cũng giúp giải thích lý do tại sao các công ty AI hàng đầu lại đầu tư mạnh vào cơ sở hạ tầng và năng lực doanh nghiệp.