Nghiên cứu mới tiết lộ xu hướng “ảo giác” của trí tuệ nhân tạo trong tương lai

Một nhóm các nhà khoa học và chuyên gia công nghệ vừa công bố kết quả nghiên cứu mới, cho thấy AI đang dần phát triển khả năng “ảo giác” – tức là tạo ra những thông tin không chính xác hoặc hoàn toàn bịa đặt khi trả lời các câu hỏi. Kết quả này đặt ra câu hỏi nghiêm trọng về độ tin cậy của các mô hình ngôn ngữ lớn (LLM) như ChatGPT, GPT-4 hay Gemini.

Phương pháp nghiên cứu và cách đo lường “ảo giác”

Đội ngũ nghiên cứu đã xây dựng một bộ dữ liệu gồm hơn 4.000 câu hỏi đa dạng, từ kiến thức tổng quát tới các lĩnh vực chuyên môn sâu. Các câu hỏi này được đưa vào ba mô hình AI phổ biến: OpenAI GPT-4, Google Gemini và một mô hình mã nguồn mở. Đối chiếu với các câu trả lời đúng đã được kiểm chứng, các nhà phân tích tính tỉ lệ “ảo giác” – phần trăm câu trả lời chứa lỗi, thiếu sót hoặc hoàn toàn sai.

Kết quả đáng chú ý: Tỷ lệ ảo giác vẫn còn cao

  • GPT-4: 28 % câu trả lời có lỗi nghiêm trọng.
  • Google Gemini: 31 % câu trả lời không chính xác.
  • Mô hình mã nguồn mở: 38 % lỗi, cao nhất trong ba mẫu.

Mặc dù các mô hình đã có tiến bộ đáng kể so với năm 2022, nhưng tỉ lệ sai sót vẫn vượt quá mức chấp nhận trong nhiều ứng dụng thực tiễn, đặc biệt là trong y tế, pháp luật và tài chính.

Nguyên nhân gây ra ảo giác trong AI

  1. Dữ liệu huấn luyện không đồng nhất – Nhiều nguồn dữ liệu có chất lượng thấp, gây “nhiễu” cho mô hình.
  2. Cơ chế dự đoán dựa trên xác suất – Khi không có thông tin đủ, mô hình sẽ “đoán” dựa trên thống kê, dẫn đến câu trả lời bịa đặt.
  3. Thiếu cơ chế kiểm chứng nội bộ – Các mô hình hiện nay chưa có công cụ tự động rà soát và sửa lỗi trước khi đưa ra kết quả cho người dùng.

Hệ quả và rủi ro nếu không kiểm soát

  • Mất niềm tin của người dùng: Khi nhận được thông tin sai, người dùng có thể ngừng sử dụng công nghệ AI.
  • Hậu quả pháp lý: Trong lĩnh vực y tế hoặc tư vấn pháp luật, một câu trả lời sai có thể gây thiệt hại nghiêm trọng và dẫn tới kiện tụng.
  • Lây lan thông tin sai lệch: AI có thể trở thành “công cụ” phát tán tin giả nhanh chóng, làm gia tăng hiện tượng “fake news”.

Các đề xuất cải thiện độ tin cậy

  • Tăng cường lọc và xác thực dữ liệu trước khi đưa vào huấn luyện.
  • Phát triển cơ chế “self-check”: mô hình tự kiểm tra tính hợp lý của câu trả lời bằng các mô-đun xác thực phụ.
  • Kết hợp AI với kiểm duyệt con người trong các trường hợp quan trọng, như chẩn đoán y tế hoặc tư vấn pháp luật.
  • Cập nhật thường xuyên các mô hình để chúng không “bị lỗi thời” khi kiến thức mới xuất hiện.

Định hướng tương lai cho AI

Các nhà khoa học đồng ý rằng việc giảm thiểu ảo giác không chỉ là cải tiến thuật toán mà còn là thay đổi cách chúng ta xây dựng, triển khai và giám sát AI. Sự hợp tác giữa các công ty công nghệ, tổ chức nghiên cứu và cơ quan quản lý sẽ là chìa khóa để đưa AI từ “công cụ hỗ trợ” sang “đối tác tin cậy” trong mọi lĩnh vực.

Kết luận

Mặc dù AI đang tiến bộ nhanh chóng, hiện tượng ảo giác vẫn là một thách thức lớn. Để khai thác tối đa tiềm năng của trí tuệ nhân tạo, các bên liên quan cần tập trung vào việc nâng cao chất lượng dữ liệu, xây dựng cơ chế kiểm tra nội bộ và duy trì sự giám sát của con người. Chỉ khi đó, AI mới thực sự trở thành nguồn thông tin đáng tin cậy cho người dùng và xã hội.