AI 'ảo giác' suýt kích hoạt chiến dịch quân sự Mỹ

Một sự cố nghiêm trọng vừa xảy ra khi hệ thống AI 'ảo giác' (hallucination) suýt kích hoạt một chiến dịch quân sự của Mỹ. Sự việc làm dấy lên lo ngại về việc sử dụng AI trong các quyết định quân sự quan trọng.

Điều gì đã xảy ra?

Hệ thống AI đã tạo ra thông tin sai lệch, gần như dẫn đến việc kích hoạt một chiến dịch quân sự không có thật. May mắn thay, các quan chức đã phát hiện và ngăn chặn kịp thời. Sự cố cho thấy rủi ro nghiêm trọng khi AI được tích hợp vào các hệ thống ra quyết định quân sự.

Bài học quan trọng

Một học giả nghiên cứu GovAI cảnh báo rằng 'quan trọng là quân nhân phải hiểu được sự không chắc chắn vốn có của LLM'. Sự việc này nhấn mạnh tầm quan trọng của việc giám sát con người trong các hệ thống AI quân sự và không nên hoàn toàn tin tưởng vào đầu ra của AI mà không có xác minh độc lập.