Vì sao trí tuệ nhân tạo đôi khi lại bịa đặt mọi thứ? [Video và bài trắc nghiệm]

Câu trả lời ngắn gọn: AI đôi khi bịa đặt mọi thứ vì nó dự đoán những từ tiếp theo có vẻ hợp lý, chứ không phải là những sự thật đã được xác minh - sự trôi chảy không phải là bằng chứng. Khi chủ đề chuyên biệt, có tính rủi ro cao, hoặc đòi hỏi tên và số liệu chính xác, những khoảng trống sẽ được lấp đầy bằng những phỏng đoán đầy tự tin trừ khi bạn dựa trên cơ sở câu trả lời và kiểm tra kỹ lưỡng các tuyên bố chắc chắn.

Những bài viết bạn có thể muốn đọc sau bài này:

🔗 Đừng coi AI như Google nữa!
Tìm hiểu lý do tại sao để có được kết quả AI tốt hơn cần một cách tiếp cận khác.

🔗 Lời nhắc AI đầu tiên đúng cách của bạn:
Xây dựng một lời nhắc rõ ràng, hiệu quả bằng cách sử dụng cấu trúc đơn giản.

🔗 4 yếu tố tạo nên một lời nhắc AI tuyệt vời
Khám phá bốn yếu tố thiết yếu giúp nâng cao chất lượng lời nhắc AI.

🔗 (AI) thực chất là gì?
Hãy hiểu về trí tuệ nhân tạo bằng những thuật ngữ đơn giản, dễ hiểu và gần gũi với cuộc sống hàng ngày.

Những điểm chính cần ghi nhớ:

Dự đoán mà không biết: Hãy coi văn xuôi trôi chảy như là sự hoàn thiện mẫu, chứ không bao giờ là bằng chứng có lời thề.

Cạm bẫy tự tin: Giọng điệu quyết đoán là phong cách; tính chính xác cần được kiểm tra riêng bên ngoài cuộc trò chuyện.

Bao bì giả mạo: Hãy tự mình tìm kiếm tiêu đề trích dẫn và các câu nói trước khi tin tưởng vào những danh sách tài liệu tham khảo được sắp xếp gọn gàng.

Hãy đảm bảo câu trả lời chính xác: Dán nguồn ghi chú và loại bỏ các URL, nghiên cứu hoặc số liệu thống kê bịa đặt.

Kiểm toán thủ công: Ưu tiên kiểm tra những yêu cầu rủi ro nhất trước, đặc biệt là trong lĩnh vực sức khỏe, pháp luật hoặc tài chính.

Dự đoán không đồng nghĩa với việc biết sự thật

Nói thẳng ra thì: hầu hết các mô hình trò chuyện đều là những cỗ máy tạo mẫu. Bạn đặt câu hỏi. Chúng tạo ra câu trả lời phù hợp với hình dạng của một câu trả lời tốt. Hình dạng đó bao gồm sự thật, giọng điệu, cấu trúc - toàn bộ "vẻ ngoài". Đôi khi "vẻ ngoài" đó chứa đựng kiến ​​thức thực sự. Đôi khi nó chỉ là một phỏng đoán tự tin để lấp đầy khoảng trống thông tin.

Tôi đoán một phép ẩn dụ không chính xác lắm sẽ hữu ích, rồi tôi sẽ đính chính lại một chút. Hãy tưởng tượng một nghệ sĩ piano nhạc jazz đã nghe hàng triệu bài hát. Yêu cầu họ chơi "bài hát về chiếc vali màu xanh" và họ có thể sáng tạo ra một giai điệu tuyệt đẹp chưa từng tồn tại - bởi vì yêu cầu nghe có vẻ như nó nên tồn tại. Khoan đã - điều đó hơi cường điệu về mặt nghệ thuật. Nó giống như tính năng tự động hoàn thành được nâng cấp hơn. Mô hình đang hoàn thành một đoạn văn hợp lý, chứ không phải mở một tủ hồ sơ có nhãn "Sự thật".

Vậy nên khi mọi người hỏi "Tại sao AI đôi khi lại bịa đặt?", câu trả lời ngắn gọn là: những chỗ trống được lấp đầy bằng bất cứ điều gì nghe có vẻ hợp lý về mặt thống kê. Thiếu một trích dẫn khiến mô hình tự tạo ra một trích dẫn trông có vẻ học thuật. Không chắc chắn về một con số, nó đưa ra một con số gọn gàng. Không có tên đệm của một người, nó bịa ra một cái tên phù hợp với thời đại và văn hóa. Ban đầu có vẻ hơi ngạc nhiên. Nhưng một khi bạn thấy được quy luật, thì không còn ngạc nhiên nữa. 

• Mục tiêu của việc tạo văn bản là tạo ra văn bản trôi chảy, chứ không phải là sự thật đã được kiểm chứng.
• Những khoảng trống kiến ​​thức vẫn được lấp đầy bằng từ ngữ.
• Xác suất của cụm từ "nghe có vẻ đúng" có thể cao hơn cụm từ "thực sự đúng" trong bảng xếp hạng của mô hình.

Sự tự tin so với độ chính xác - Khoảng cách khó xử

Con người thường nói vòng vo khi không chắc chắn. Chúng ta nói "Tôi nghĩ là", "có lẽ", "Tôi cần kiểm tra lại". Các mô hình cũng có thể nói vòng vo - nếu bạn yêu cầu - nhưng kết quả mặc định thường giống như một bản tóm tắt đầy tự tin. Sự trau chuốt đó là một đặc điểm của quá trình huấn luyện để trở nên hữu ích, chứ không phải là dấu hiệu cho thấy mọi tuyên bố đều có cơ sở.

Sự tự tin và độ chính xác là hai yếu tố khác nhau. Một yếu tố có thể được điều chỉnh ở mức cao trong khi yếu tố kia gần như bằng không. Bạn cũng đã từng trải nghiệm điều này với con người: người đồng nghiệp giải thích một quy trình sai với sự chắc chắn tuyệt đối. Trí tuệ nhân tạo cũng có thể làm điều tương tự, chỉ khác là nhanh hơn và với định dạng tốt hơn.

Bài học thực tiễn: hãy coi cách diễn đạt khẳng định là phong cách, chứ không phải bằng chứng. Nếu câu trả lời không có nguồn tham khảo để bạn kiểm chứng, không thừa nhận sự không chắc chắn, và chỉ toàn tên hoặc số liệu cụ thể - hãy chậm lại. Sự cụ thể mà thiếu cơ sở là dấu hiệu kinh điển của sự thiếu trung thực. 

• Giọng điệu khẳng định không đồng nghĩa với nội dung đã được xác minh.
• Hãy yêu cầu mô hình đánh dấu sự không chắc chắn một cách có chủ đích.
• Tôi thích kiểu nói "đây là những điều tôi không chắc chắn" hơn là một bản tóm tắt giả tạo, không thể bịt kín bất cứ điều gì.

Các trích dẫn và chi tiết giả mạo trông rất thật

Điều này gây khó chịu vì nó trông rất chuyên nghiệp. Tiêu đề bài báo giả. Tên tạp chí giả. URL giả trông gần như có thể nhấp chuột được. Trích dẫn giả mạo được gán cho người nổi tiếng. Định dạng thường hoàn hảo - kiểu chữ nghiêng, các chỗ giữ chỗ hình năm được cố tình tránh, tên tác giả nghe rất giống người thật - và cách trình bày đó đánh lừa những người chỉ đọc lướt qua.

Điều này xảy ra vì một lý do rất rõ ràng. Hình thức trích dẫn rất phổ biến trong văn bản huấn luyện. Khi bạn yêu cầu "nguồn", mô hình có thể tạo ra hình thức trích dẫn mà không cần truy xuất bản ghi thực tế. Nó giống như việc yêu cầu ai đó vẽ một hóa đơn từ trí nhớ. Bạn nhận được thứ trông giống như một hóa đơn. Cửa hàng đó có thể chưa từng tồn tại.

Tôi từng xem một bản thảo nghiên cứu về năng suất làm việc từ xa với danh sách tác giả trông rất chuyên nghiệp. Cảm giác như nó đã được các chuyên gia đánh giá. Nhưng thực chất nó chẳng có giá trị gì. Đó chính là mối nguy hiểm: não bộ của bạn sẽ thư giãn khi nhìn thấy vẻ ngoài đắt tiền. Đừng thư giãn. 

• Hãy yêu cầu những tựa sách mà bạn có thể tự tìm kiếm - rồi hãy tìm kiếm chúng một cách nghiêm túc.
• Hãy cảnh giác với những gói trích dẫn kèm ghi nguồn được sắp xếp gọn gàng mà bạn không hề yêu cầu.
• Nếu không tìm được "nguồn" xác nhận nhanh chóng, hãy coi tuyên bố đó là không có căn cứ.

Khi rủi ro của phát minh là cao nhất

Không phải cuộc trò chuyện nào cũng nguy hiểm như nhau. Một bài thơ về cà phê có thể tự do sáng tạo ra các phép ẩn dụ - đó mới là điểm mấu chốt. Liều lượng thuốc, thời hạn pháp lý, chính sách giá của đối thủ cạnh tranh, hay một tuyên bố lịch sử cho một bài báo đã xuất bản lại thuộc một thế giới khác.

Rủi ro tăng lên khi chủ đề quá chuyên biệt, mới mẻ hoặc rất cụ thể. Rủi ro cũng tăng lên khi bạn yêu cầu số liệu chính xác, tài liệu cụ thể, thông tin nội bộ của công ty hoặc "liệt kê mười nghiên cứu đã được bình duyệt". Yêu cầu càng chính xác, mô hình càng dễ bị cám dỗ điền vào chỗ trống bằng những thông tin hợp lý.

Những câu trả lời dài dòng, gây ấn tượng có thể rủi ro hơn những câu trả lời ngắn gọn, thận trọng. Độ dài thể hiện sự nỗ lực. Nỗ lực thể hiện sự cẩn thận. Sự cẩn thận thể hiện sự thật. Chuỗi ấn tượng quanh co đó là cách mà những thông tin sai lệch lọt vào các bài thuyết trình. 

• Rủi ro cao: sức khỏe, pháp luật, tài chính, tuân thủ quy định, an toàn, người cụ thể, số liệu thống kê chính xác.
• Rủi ro trung bình: quy trình ngành nghề đặc thù, cài đặt công cụ, danh sách "thực tiễn tốt nhất".
• Rủi ro thấp hơn: lên ý tưởng, lập dàn ý, viết lại bản nháp của chính mình, chỉnh sửa giọng văn.

So sánh nhanh giữa kết quả đáng tin cậy và kết quả không ổn định

Một cuộc trò chuyện thân mật sẽ hiệu quả hơn nhiều so với một bài diễn thuyết động viên. Kể cả những điều nhỏ nhặt, bởi vì những cuộc trò chuyện thường ngày vốn dĩ đã có những nét đặc sắc riêng.

Hãy luôn ghi nhớ kết quả đó. Bạn sẽ bắt đầu nhận thấy những kết quả không ổn định, giống như cách bạn nhận ra một nụ cười hơi gượng gạo trong ảnh - có vẻ như ảnh đã được dàn dựng.

Làm thế nào để nhận biết câu trả lời bịa đặt mà không cần trở nên đa nghi?

Bạn không cần phải xác minh từng tính từ. Điều bạn cần là một thói quen kiểm tra thông tin đơn giản nhưng hiệu quả đối với những thông tin quan trọng. Hãy kiểm tra nhanh những điểm quan trọng nhất: con số, tên, chính sách, báo giá. Nếu điểm quan trọng đó không đạt yêu cầu, phần còn lại của câu trả lời cũng cần được xem xét.

Một dấu hiệu khác: mâu thuẫn nội tại. Mô hình nói rằng một công cụ "luôn luôn" thực hiện X, rồi sau đó mô tả một ngoại lệ như thể đó là tiêu chuẩn. Hoặc nó tạo ra một tính năng, rồi giải thích cách tắt nó đi - giống như một giấc mơ cứ liên tục tạo ra những cánh cửa. Hãy đặt những câu hỏi tiếp theo để tìm ra điểm yếu. Những thế giới được tạo ra thường dễ lung lay dưới áp lực.

Cũng cần cảnh giác với bao bì "quá hoàn hảo". Mỗi đoạn văn đều được trau chuốt như nhau. Mỗi lời khuyên đều tự tin như nhau. Chuyên môn thực sự thường có chiều sâu - những lưu ý, sự đánh đổi, "tùy thuộc vào từng trường hợp". Sự hoàn hảo phẳng lì cần được xem xét kỹ lưỡng hơn. 

• Trước tiên hãy xác minh luận điểm rủi ro nhất, chứ không phải toàn bộ bài luận.
• Hãy hỏi "Điều gì khiến bạn ít chắc chắn nhất?" và xem liệu lớp mặt nạ có bị lộ ra không.
• Kiểm tra lại tên, chức danh và số điện thoại bên ngoài cuộc trò chuyện.
• Tôi thích những câu trả lời gắn liền với đoạn văn bạn đã dán hơn là những thông tin rời rạc.

Những thói quen nhanh giúp giảm thiểu sự sáng tạo

Bạn không thể xóa bỏ ảo giác bằng một câu thần chú - rất tiếc - nhưng bạn có thể thu nhỏ phạm vi ảnh hưởng. Những gợi ý tốt sẽ giới hạn trò chơi. Những gợi ý tồi sẽ khuyến khích sự ngẫu hứng.

Hãy thử những thói quen như thế này. Chúng nghe có vẻ khô khan, nhưng lại hiệu quả hơn nhiều so với những mẹo nhắc nhở thông minh.

• Giới hạn phạm vi kiến ​​thức: "Chỉ sử dụng những ghi chú tôi dán. Nếu thiếu, hãy nói là bạn không biết."
• Cấm các nguồn giả mạo: "Không được tự bịa đặt trích dẫn, câu nói hoặc URL."
• Gắn nhãn cho mức độ không chắc chắn: "Gắn nhãn cho mỗi gạch đầu dòng: đã biết / suy luận / phỏng đoán."
• Hãy yêu cầu các phương án thay thế: "Đưa ra hai lựa chọn và giải thích tại sao mỗi lựa chọn có thể sai."
• Yêu cầu giải đáp thắc mắc: "Hãy liệt kê những giả định mà bạn đã đưa ra."
• Ưu tiên cấu trúc hơn là không khí: bảng biểu, danh sách kiểm tra và các cột luận điểm/bằng chứng.

Điều đáng ngạc nhiên là, việc cho phép người mẫu nói "Tôi không biết" sẽ làm giảm áp lực xã hội phải thể hiện sự chắc chắn. Người mẫu phản ánh yêu cầu của bài tập. Nếu bài tập đề cao sự hoàn chỉnh bằng mọi giá, bạn sẽ nhận được những lời nói dối được trau chuốt về hình thức. Nếu bài tập đề cao việc trình bày rõ ràng về những thiếu sót, bạn sẽ nhận được ít lời nói dối hào nhoáng hơn. 

Và đúng vậy - việc theo dõi rất quan trọng. Tin nhắn đầu tiên chỉ là bản nháp. "Nguồn trích dẫn đó có vẻ giả mạo - hãy xóa bất cứ thứ gì bạn không thể xác minh" là một tin nhắn thứ hai hoàn toàn bình thường. Hãy coi cuộc trò chuyện như việc chỉnh sửa, chứ không phải như một máy bán hàng tự động mà bạn phải nhận được câu trả lời trung thực ngay từ đồng xu đầu tiên.

Nền tảng vững chắc, theo dõi sát sao và sống chung với sự không chắc chắn

Việc xác định cơ sở có nghĩa là gắn câu trả lời với một điều gì đó nằm ngoài sự ứng biến của mô hình: tài liệu chính sách bạn đã dán, bảng tính của bạn, ghi chú cuộc họp của bạn, một trang công khai đã biết mà bạn sẽ tự kiểm tra. Khi câu trả lời phải nằm trong phạm vi đó, sự sáng tạo sẽ có ít không gian để phát huy.

Các câu hỏi tiếp theo là hàng rào thứ hai. "Con số đó đến từ đâu?" "Phần nào là suy luận?" "Viết lại mà không nêu tên bất kỳ nghiên cứu nào." Mỗi câu hỏi là một cuộc kiểm tra nhỏ. Tôi đoán đó là cách người lớn sử dụng những công cụ này - không sùng bái, không hoảng loạn, chỉ là kiểm tra.

Sự không chắc chắn không phải là lỗi trong quy trình làm việc của bạn. Nó giống như thời tiết vậy. Có những ngày mô hình đưa ra bản tóm tắt chính xác văn bản của bạn. Có những ngày nó lại tạo ra một tiểu ban chưa từng họp. Nhiệm vụ của bạn là quyết định xem kết quả nào cần được "áo mưa". 

• Sao chép nguồn khi độ chính xác là yếu tố quan trọng.
• Hãy yêu cầu gắn thẻ độ tin cậy ở cấp độ yêu cầu bồi thường.
• Hãy để con người tham gia vào quá trình ra quyết định đối với những vấn đề quan trọng.
• Hãy dành "sự tự do sáng tạo" cho những nhiệm vụ sáng tạo - chứ không phải để tuân thủ quy định.

Phải làm gì khi bạn bị ảo giác giữa chừng?

Đừng để bản thân rơi vào vòng xoáy tiêu cực. Đừng thề thốt từ bỏ công cụ đó mãi mãi như thể nó đã phản bội bạn – dù cảm giác đó có thể rất mạnh mẽ. Hãy sửa lỗi và tiếp tục.

Một vòng lặp phục hồi đơn giản:

• Hãy chỉ ra điều đó: "Nguồn thông tin đó có vẻ như được bịa đặt. Hãy loại bỏ những tuyên bố không có căn cứ."
• Neo lại: dán tài liệu, trích dẫn hoặc dữ liệu thực tế.
• Hãy tập trung vào việc sửa chữa: chỉ yêu cầu chỉnh sửa phần đã sửa, chứ không phải viết một bài luận hoàn toàn mới với những nội dung sáo rỗng.
• Kiểm tra lại kỹ các chi tiết quan trọng: tên, số liệu, các bước quy trình.
• Xác định mức độ tin tưởng: cộng sự cùng lên ý tưởng, trợ lý soạn thảo hay "không phù hợp với chủ đề này".

Việc nắm bắt được một ảo giác có thể cải thiện phần còn lại của cuộc trò chuyện - nếu bạn thắt chặt các ràng buộc. Mô hình không "cảm thấy tội lỗi", nhưng hướng dẫn rõ ràng hơn của bạn sẽ thay đổi những gì nó tối ưu hóa. Bạn đang điều khiển. Hãy điều khiển mạnh hơn khi sự sáng tạo xuất hiện. 

Những tình huống thường ngày mà điều này lại có ý nghĩa thầm lặng

Email công việc: một "thời hạn tiêu chuẩn ngành" được bịa đặt có thể tạo ra những kỳ vọng mà bạn không thể đáp ứng. Trường học và học tập: một lời giải thích giả tạo có thể ăn sâu vào tâm trí bạn mà bạn không hề hay biết. Bản nháp hỗ trợ khách hàng: một quy tắc hoàn tiền bịa đặt trở thành lời hứa. Viết sáng tạo: hãy thỏa sức sáng tạo - đó là sân chơi của bạn.

Điểm mấu chốt ở đây là hậu quả. Nếu lời nói sai trái gây tổn thất về tiền bạc, lòng tin, điểm số hoặc sự an toàn, thì việc xác minh không phải là việc làm tùy ý mà là vô bổ. Nếu lời nói sai trái chỉ gây ra sự thờ ơ, hãy thư giãn. Cân bằng giữa sự thận trọng và hậu quả mới là kỹ năng của người trưởng thành - hơn cả việc chỉ nhớ từ "ảo giác"

Ngoài ra: các nhóm nên chuẩn hóa cụm từ "Tôi đã xác minh tuyên bố này" giống như cách họ chuẩn hóa cụm từ "kiểm tra chính tả đã thành công". Nếu không, một đoạn văn được trau chuốt kỹ lưỡng sẽ nhanh chóng trở thành kiến ​​thức ngầm. Thật đáng sợ.

Những điểm chính cần ghi nhớ

Vậy nên, lý do tại sao AI đôi khi bịa đặt mọi thứ nằm ở chỗ: các hệ thống này dự đoán ngôn ngữ nghe có vẻ hợp lý, lấp đầy những khoảng trống bằng cách đối sánh mẫu, và thường tỏ ra chắc chắn khi làm điều đó. Sự kết hợp này tạo ra những câu trả lời sai đầy tự tin, những trích dẫn bịa đặt và những chi tiết được sắp xếp gọn gàng mà chưa từng xảy ra.

Bạn không cần phải sợ công cụ. Bạn cần hình thành thói quen. Kiểm tra kỹ các tuyên bố chắc chắn. Loại bỏ các nguồn bịa đặt. Dán bối cảnh cụ thể. Yêu cầu sự không chắc chắn. Sử dụng các bước tiếp theo như một hình thức kiểm toán. Chỉ nên sáng tạo tự do trong những dự án sáng tạo ít rủi ro.

Sự lưu loát không phải là thước đo phẩm chất. Hãy đối xử với nó như một thực tập sinh tài năng, đánh máy cực nhanh, đôi khi bịa ra những cuộc họp chưa từng diễn ra, và vẫn có thể hoàn thành xuất sắc nhiệm vụ khi được giám sát. Hãy duy trì sự giám sát. Hãy giữ sự dí dỏm. Hãy giữ thái độ hoài nghi ở mức độ nhẹ nhàng nhưng có cơ sở. Đó là cách bạn đạt được lợi thế mà không cần phải biến câu chuyện hư cấu thành sự thật.

Ví dụ thực tế: Phát hiện các trích dẫn giả mạo trong bản tóm tắt nghiên cứu của đối thủ cạnh tranh

Ảo giác thoạt nhìn có vẻ trừu tượng cho đến khi một đoạn văn trau chuốt gần như xuất hiện trong bản trình bày cho khách hàng. Dưới đây là cách một nhà phân tích tiếp thị người Anh đã sử dụng các thói quen trong hướng dẫn này để ngừng tạo ra những câu chuyện hư cấu dưới vỏ bọc nghiên cứu - mà không từ bỏ chatbot.

Kịch bản

Sam có hai tiếng để soạn thảo một bản tóm tắt đối thủ cạnh tranh dài một trang cho buổi họp khởi động bán hàng. Yêu cầu khá quen thuộc: điểm mạnh, tín hiệu giá cả và "một vài nguồn đáng tin cậy". Theo thói quen cũ, Sam gõ "tóm tắt Đối thủ X kèm nguồn" và nhận được một bản tóm tắt gọn gàng với ba trích dẫn trông có vẻ học thuật và một tỷ lệ thị phần chính xác. Nghe có vẻ chuyên nghiệp. Nhưng thực tế, phần lớn là bịa đặt. Một tiêu đề không thể tìm thấy. Con số thị phần không xuất hiện ở bất cứ đâu trên trang web của đối thủ.

Sam không cần một mô hình nghe hay hơn. Sam cần một quy trình làm việc thực tế: dán ghi chú nguồn, loại bỏ nguồn giả mạo, gắn nhãn không chắc chắn, kiểm tra nhanh luận điểm sắc bén nhất trước, sau đó chỉ xây dựng lại phần bị lỗi.

Mục tiêu là tạo ra một bản tóm tắt đáng tin cậy để cả nhóm có thể tham khảo khi cần thiết - chứ không phải là một bản hóa đơn được lập ra từ trí nhớ mà chỉ trông giống như một bản hóa đơn mà thôi.

Những gì trợ lý cần

• Sam đã có sẵn các tài liệu sau: nội dung trang chủ, văn bản trang giá cả, hai phiếu hỗ trợ gần đây, ghi chú từ một giao dịch bị hủy
• Một nguyên tắc bất di bất dịch: chỉ sử dụng văn bản sao chép cho các tuyên bố mang tính sự thật; hãy nói "Tôi không biết" khi phần ghi chú không có thông tin
• Cấm sử dụng các trích dẫn, câu nói, URL và số liệu thống kê bịa đặt
• Một hình dạng đầu ra phân tách các thông tin đã biết / suy luận / phỏng đoán
• Cần một người kiểm tra lại lần nữa các tên, số liệu và bất kỳ tiêu đề "nguồn" nào trước khi chia sẻ bộ tài liệu
• Được phép đặt tối đa ba câu hỏi làm rõ thay vì điền vào chỗ trống

Ví dụ hướng dẫn

Bài tập 1 - Bản tóm tắt dựa trên thông tin thực tế: Chỉ sử dụng các ghi chú tôi dán bên dưới, hãy soạn thảo một bản tóm tắt dài một trang về đối thủ cạnh tranh dành cho bộ phận bán hàng. Các phần: Những gì họ tuyên bố / Những gì khách hàng phàn nàn / Tín hiệu về giá cả / Câu hỏi mở. Không được tự bịa đặt các trích dẫn, câu nói, URL hoặc số liệu thống kê. Nếu một thông tin không có trong ghi chú, hãy viết "không rõ" và liệt kê nó trong phần Câu hỏi mở. Đánh dấu mỗi gạch đầu dòng: đã biết / suy luận / phỏng đoán. Sử dụng tiếng Anh Anh. Không cần lời mở đầu.

Thông điệp 2 - nghi ngờ: Liệt kê mọi giả định bạn đã đưa ra. Xóa bất cứ điều gì được gắn thẻ "phỏng đoán" trừ khi bạn có thể chỉ ra một câu đã dán để chứng minh điều đó. Nếu trước đây bạn đã tự bịa ra một nguồn thông tin, hãy xóa nó và nói rõ điều đó.

Thông báo 3 - chỉnh sửa lại một cách hẹp hơn: Dòng thị phần đó không được hỗ trợ. Chỉ viết lại phần Tín hiệu giá cả mà không có số liệu trừ khi chúng xuất hiện trong ghi chú của tôi. Giữ nguyên các phần khác.

Cách kiểm tra nó

• Đưa ra một câu hỏi tự do ("tóm tắt thông tin về Đối thủ X với ba nguồn đã được kiểm chứng") và bản tóm tắt cụ thể ở trên. So sánh các tiêu đề được bịa đặt và số liệu thống kê giả.
• Hãy kiểm tra kỹ tuyên bố có rủi ro cao nhất trước (một con số hoặc một nghiên cứu cụ thể), chứ không phải toàn bộ trang.
• Hãy hỏi: "Bạn không chắc chắn nhất về điều gì?" Một câu trả lời chắc chắn sẽ chỉ ra những điểm chưa rõ; một câu trả lời thiếu chắc chắn sẽ nhấn mạnh thêm vào đó.
• Trường hợp đặc biệt: xóa phần giá cả khỏi ghi chú đã dán và xác nhận bản nháp ghi là "không rõ" thay vì tự bịa ra giá gói dịch vụ.
• Kiểm tra chấp nhận trước khi chia sẻ: (1) mỗi gạch đầu dòng "đã biết" khớp với một dòng được dán, (2) không có trích dẫn giả mạo, (3) các câu hỏi mở liệt kê những khoảng trống thực sự, (4) bạn đã tự tìm kiếm bất kỳ tiêu đề còn lại nào, (5) không có số liệu thống kê chính xác nào mà không có ghi chú phía sau.

Kết quả

Kết quả minh họa (ví dụ ước tính cho quy trình làm việc tóm tắt của một nhà phân tích đối với đối thủ cạnh tranh, không phải là một nghiên cứu đã được công bố): Trên 8 nhiệm vụ tóm tắt, thời gian thực tế từ "mở ghi chú" đến "bản nháp sẵn sàng để kiểm tra bởi con người" tăng nhẹ từ mức trung bình khoảng 12 phút (bản hư cấu được trau chuốt một lần) lên khoảng 15 phút với bản tóm tắt có cơ sở - nhưng việc dọn dẹp và rủi ro gây bối rối đã giảm. Việc xác minh thủ công các tuyên bố cứng đã giảm từ mức trung bình khoảng 18 phút (tìm kiếm tiêu đề giả và viết lại) xuống khoảng 6 phút khi các tuyên bố được gắn thẻ trước và các nguồn bịa đặt bị cấm, do đó thời gian thực tế giảm khoảng 9 phút cho mỗi bản tóm tắt, hoặc khoảng 72 phút cho toàn bộ tập hợp. Trên danh sách kiểm tra chấp nhận (không có trích dẫn bịa đặt, không có số liệu thống kê không được hỗ trợ, có thẻ đã biết/suy luận/phỏng đoán, các câu hỏi mở nêu rõ các lỗ hổng), 7 trong số 8 bản nháp có cơ sở đã vượt qua lần xem xét đầu tiên so với 2 trong số 8 bản nháp một lần. Hạn chế: mẫu nhỏ, một nhà phân tích, một loại tóm tắt; các đối thủ cạnh tranh dễ dàng với giá cả công khai rõ ràng thu hẹp khoảng cách; "Thời gian xác minh" bao gồm việc tìm kiếm trên web các tựa sách khả nghi.

Để đánh giá phiên bản của riêng bạn: hãy chạy 5 bản tóm tắt với thói quen hiện tại và 5 bản khác với các nguồn được dán sẵn + các trích dẫn bịa đặt bị cấm + các thẻ khẳng định; ghi lại thời gian soạn thảo trung bình, thời gian xác minh trung bình và tỷ lệ đạt yêu cầu của danh sách kiểm tra với mẫu số được hiển thị.

Điều gì có thể xảy ra sai sót?

• Thiên kiến ​​về sự trôi chảy: Ngữ pháp hoàn hảo và các gạch đầu dòng gọn gàng khiến bạn bỏ qua việc kiểm tra ngẫu nhiên.
• Việc trích dẫn thiếu căn cứ: Yêu cầu "nguồn" mà không kèm theo tài liệu minh họa sẽ dẫn đến hình thức nghiên cứu thiếu bằng chứng xác thực.
• Danh sách quá đầy đủ: "Hãy cho tôi mười nghiên cứu" sẽ khuyến khích việc thêm nội dung không cần thiết khi thực tế chỉ có ba nghiên cứu trong ghi chú của bạn.
• Viết lại toàn bộ bài luận: Sau một câu sai, hãy yêu cầu viết lại phần đó một cách chi tiết hơn - chứ không phải là một bản viết mới hoàn toàn trau chuốt.
• Các chủ đề quan trọng: Y tế, pháp luật, tài chính và tuân thủ quy định cần có sự kiểm soát chặt chẽ hơn từ phía con người so với một bản tóm tắt các luận điểm bán hàng.
• Không có sự can thiệp của con người: Bản nháp đã được gắn thẻ vẫn có thể hiểu sai câu được dán vào. Sam vẫn sở hữu nút chia sẻ.

Bài học thực tiễn

Trí tuệ nhân tạo (AI) bịa đặt ra mọi thứ vì nó dự đoán ngôn ngữ hợp lý để lấp đầy những khoảng trống – chứ không phải vì nó muốn lừa bạn. Hãy coi sự trôi chảy như một phong cách, chứ không phải bằng chứng. Hãy dán nhãn ranh giới, loại bỏ các nguồn giả mạo, gắn nhãn sự không chắc chắn, kiểm tra ngẫu nhiên những tuyên bố sắc bén nhất và sửa chữa mạch văn khi có điều gì đó không ổn. Đó là cách bạn giữ được lợi thế của một đối tác soạn thảo nhanh mà không cần phải tung ra một câu chuyện tự tin nhưng chưa từng xảy ra.

Câu hỏi thường gặp

Tại sao trí tuệ nhân tạo đôi khi lại bịa đặt ra mọi thứ?

Hầu hết các mô hình trò chuyện đều là những cỗ máy tạo mẫu: chúng tạo ra câu trả lời phù hợp với hình thức của một câu trả lời hay, chứ không phải là một kho lưu trữ được xác thực có nhãn "Sự thật". Những chỗ trống được lấp đầy bằng bất cứ điều gì nghe có vẻ đúng về mặt thống kê - một trích dẫn trông có vẻ học thuật, một con số gọn gàng, hoặc một chi tiết phù hợp với thời đại. Mục tiêu của việc tạo ra văn bản là tạo ra một văn bản trôi chảy, vì vậy "nghe có vẻ đúng" có thể tốt hơn "là đúng". Đó là lý do tại sao các câu trả lời được bịa đặt thường xuất hiện với ngữ pháp hoàn hảo và các gạch đầu dòng gọn gàng.

Liệu sự tự tin của AI có đồng nghĩa với độ chính xác?

Không. Sự tự tin và độ chính xác là hai thước đo khác nhau - một cái có thể ở mức cao trong khi cái kia gần như bằng không. Các kết quả mặc định thường nghe giống như một bản tóm tắt tự tin vì việc đào tạo khuyến khích sự trau chuốt hữu ích, chứ không phải vì mọi tuyên bố đều có cơ sở. Hãy coi cách diễn đạt quyết đoán là phong cách, chứ không phải bằng chứng. Nếu câu trả lời không có nguồn kiểm chứng, không có sự không chắc chắn, và có nhiều tên hoặc số cụ thể, hãy chậm lại.

Tại sao chatbot lại bịa đặt trích dẫn và nguồn tin giả?

Hình thức trích dẫn này khá phổ biến trong các tài liệu đào tạo, vì vậy việc yêu cầu "nguồn" có thể tạo ra hình thức học thuật giả mạo mà không cần tìm kiếm tài liệu thực sự - giống như việc nhớ lại một hóa đơn vậy. Các tiêu đề bài báo giả, tên tạp chí giả, URL giả và các trích dẫn được gán cho nguồn giả thường trông đủ chuyên nghiệp để đánh lừa người đọc lướt. Hãy yêu cầu các tiêu đề mà bạn có thể tự tìm kiếm; nếu không thể tìm thấy nguồn nhanh chóng, hãy coi tuyên bố đó là không có cơ sở.

Rủi ro từ việc phát minh ra trí tuệ nhân tạo cao nhất vào thời điểm nào?

Rủi ro tăng cao đối với các chủ đề chuyên biệt, mới mẻ hoặc rất cụ thể, và khi bạn yêu cầu số liệu chính xác, tài liệu cụ thể, thông tin nội bộ riêng tư hoặc danh sách dài các nghiên cứu đã được bình duyệt. Các lĩnh vực rủi ro cao bao gồm y tế, luật pháp, tài chính, tuân thủ quy định, an toàn, tên người cụ thể và số liệu thống kê chính xác. Việc lên ý tưởng, lập dàn ý, viết lại bản nháp và chỉnh sửa giọng văn thường có rủi ro thấp hơn. Những câu trả lời dài và ấn tượng cũng có thể tạo cảm giác an toàn hơn thực tế.

Làm thế nào tôi có thể nhận biết các câu trả lời do AI tạo ra mà không cần kiểm tra từng từ?

Hãy kiểm tra kỹ những chi tiết quan trọng nhất trước tiên - số liệu, tên, chính sách hoặc báo giá. Nếu thấy không ổn, hãy xem xét những chi tiết còn lại. Chú ý đến những mâu thuẫn nội bộ và cách trình bày "quá hoàn hảo" mà không có bất kỳ lưu ý hay đánh đổi nào. Hãy hỏi xem mô hình đó không chắc chắn về điều gì, kiểm tra chéo tên và chức danh bên ngoài cuộc trò chuyện, và ưu tiên những câu trả lời gắn liền với văn bản bạn đã dán hơn là những thông tin không có căn cứ.

Những thói quen nhắc nhở nào giúp giảm ảo giác do trí tuệ nhân tạo gây ra?

Bạn không thể loại bỏ ảo giác chỉ bằng một câu thần kỳ, nhưng bạn có thể thu hẹp phạm vi ảnh hưởng. Giới hạn kiến ​​thức vào các ghi chú đã dán và nói "Tôi không biết" khi thiếu thông tin. Cấm các trích dẫn, câu nói và URL bịa đặt. Bắt buộc sử dụng các thẻ như đã biết / suy luận / phỏng đoán, yêu cầu đưa ra giả định và ưu tiên cấu trúc khẳng định/bằng chứng. Việc cho phép mô hình nói "Tôi không biết" sẽ giảm áp lực phải thể hiện sự chắc chắn giả tạo.

Vậy "nền tảng" ở đây có nghĩa là gì khi sử dụng AI cho công việc liên quan đến dữ liệu thực tế?

Việc dựa vào cơ sở xác thực giúp liên kết câu trả lời với một yếu tố nào đó nằm ngoài sự ứng biến của mô hình – tài liệu chính sách, bảng tính, ghi chú cuộc họp hoặc một trang công khai mà bạn sẽ tự kiểm tra. Khi câu trả lời phải nằm trong phạm vi đó, sự sáng tạo sẽ có ít không gian hơn. Các câu hỏi tiếp theo đóng vai trò như một rào cản thứ hai: hãy hỏi con số đó đến từ đâu, phần nào là suy luận, hoặc viết lại mà không nêu tên các nghiên cứu. Luôn có sự tham gia của con người trong các quyết định quan trọng.

Tôi nên làm gì khi bị ảo giác giữa lúc đang trò chuyện?

Hãy chỉ ra lỗi, liên kết lại với tài liệu hoặc dữ liệu thực tế, và chỉ xây dựng lại phần bị lỗi thay vì yêu cầu một bài luận hoàn toàn mới đã được chỉnh sửa. Kiểm tra lại các chi tiết quan trọng - tên, số liệu, các bước quy trình - sau đó quyết định xem công cụ này là đối tác động não, trợ lý soạn thảo hay "không phù hợp với chủ đề này". Các ràng buộc rõ ràng hơn sẽ thay đổi những gì mô hình tối ưu hóa; hãy điều chỉnh mạnh mẽ hơn khi sự sáng tạo xuất hiện.

Làm thế nào để ngăn chặn việc sử dụng trích dẫn giả mạo trong bản tóm tắt nghiên cứu của đối thủ cạnh tranh?

Dán các ghi chú nguồn bạn đã có, cấm các nguồn giả mạo và số liệu thống kê không được hỗ trợ, đồng thời yêu cầu gắn thẻ "đã biết" / "suy luận" / "phỏng đoán" cùng với danh sách các câu hỏi mở. Kiểm tra ngẫu nhiên tuyên bố rủi ro nhất trước, chạy một lượt kiểm tra nghi ngờ để loại bỏ các phỏng đoán không có bằng chứng hỗ trợ, và chỉ viết lại phần bị lỗi nếu một con số không được hỗ trợ. Chấp nhận có nghĩa là mỗi gạch đầu dòng "đã biết" được ánh xạ tới một dòng đã dán và bất kỳ tiêu đề nào còn lại sẽ được con người tìm kiếm.

Khi nào thì việc cho phép trí tuệ nhân tạo tự do sáng tạo vẫn được chấp nhận?

Viết sáng tạo và các nhiệm vụ khác có tính chất ít áp lực cho phép tự do sử dụng phép ẩn dụ - đó là sân chơi. Hãy cân nhắc sự thận trọng với hậu quả: nếu dùng sai từ ngữ gây thiệt hại về tiền bạc, lòng tin, điểm số hoặc sự an toàn, thì việc kiểm chứng là bắt buộc. Nếu chỉ gây ra một cái nhún vai, hãy thoải mái hơn. Sự trôi chảy không phải là thước đo phẩm chất; hãy coi người mẫu như một thực tập sinh năng động vẫn cần được giám sát về công việc thực tế.

Tài liệu tham khảo

1. OpenAI - openai.com
2. Anthropic - anthropic.com
3. NIST - nist.gov
4. IBM - ibm.com
5. Trí tuệ nhân tạo của Google - ai.google.dev
6. Google Cloud - Hướng dẫn sử dụng - docs.cloud.google.com