Dấu nước AI hoạt động như thế nào (và cách kiểm tra đúng cách)

Gần đây, Anthropic đã công bố rằng các mô hình Claude của họ sắp bắt đầu đánh dấu đầu ra văn bản của chúng bằng các dấu nước vô hình. Cùng lúc đó, Google tiết lộ rằng dấu nước Gemini có thể nhìn thấy của họ trên các hình ảnh tạo sinh giờ sẽ là tùy chọn. Đây chỉ là hai ví dụ mâu thuẫn về các phương pháp đánh dấu đầu ra AI vô cùng đa dạng. Vì vậy, hãy cùng phân tích cách các dấu nước AI hoạt động, và làm thế nào bạn có thể phát hiện chúng ngay cả khi chúng "vô hình".

Dấu nước AI hoạt động như thế nào?

Phương pháp chính xác để đánh dấu đầu ra AI sẽ phụ thuộc vào loại phương tiện được tạo ra, nhưng nguyên tắc nhìn chung là như nhau: phương tiện được tạo ra được nhúng một dữ liệu mà mắt hoặc tai người không thể phát hiện (hoặc đôi khi có thể phát hiện), nhưng nó xác định đó là do AI tạo ra. Các công cụ phát hiện dấu nước sau đó có thể được dùng để xác định xem một thứ có được làm bằng AI hay không, mà không cần đoán hay dùng một "trình phát hiện" AI không đáng tin cậy.

Dưới đây là một số ví dụ về cách các dấu nước có thể được triển khai cho các loại phương tiện khác nhau.

Với hình ảnh

Vì các pixel của một hình ảnh là các giá trị toán học, chúng có thể được sửa đổi nhẹ để nhúng một chữ ký số, mà không có thay đổi nào có thể nhận thấy đối với chính hình ảnh. SynthID của Google, ví dụ, phân phối một chữ ký vô hình trên bất kỳ hình ảnh tạo sinh nào, nên ngay cả một phiên bản bị cắt vẫn sẽ chứa các phần của dấu nước có thể phát hiện được. Lưu ý: Điều này khác với ký hiệu màu xám có thể nhìn thấy ở góc các hình ảnh Gemini. Ngay cả khi bạn tắt dấu nước Gemini có thể nhìn thấy, dấu nước vô hình vẫn còn.

Với âm thanh

Việc nhúng dấu nước vào các tệp âm thanh có thể còn dễ hơn, đặt các âm chữ ký ngoài phạm vi nghe của con người (thường dưới 20Hz hoặc trên 20.000Hz). SynthID có một thành phần âm thanh có thể được các trình phát hiện dấu nước "nghe" thấy, nhưng vẫn không thể nhận biết bằng tai.

Với video

Tất nhiên, video tạo sinh thường dùng sự kết hợp của cả hai phương pháp đánh dấu ở trên, dù đáng lưu ý rằng một người tạo tin giả có thể cố gắng loại bỏ dấu nước.

Với văn bản

Các mô hình ngôn ngữ có thể được huấn luyện để chèn các "mã" thống kê vào văn bản đầu ra — ví dụ, ưu tiên các từ nhất định theo một mẫu mà một trình phát hiện có thể nhận ra — mà không làm thay đổi đáng kể chất lượng hoặc ý nghĩa của văn bản.

Cách kiểm tra một dấu nước

• Dùng các công cụ phát hiện dấu nước chính thức: Ví dụ, các công cụ của Google cho SynthID, hoặc các dịch vụ phát hiện do nhà cung cấp mô hình cung cấp.
• Kiểm tra metadata: Một số hình ảnh/video có thể chứa metadata C2PA (Coalition for Content Provenance and Authenticity) xác nhận nguồn gốc và việc tạo bằng AI.
• Hiểu giới hạn: Dấu nước có thể bị loại bỏ hoặc làm suy yếu qua các bước xử lý (nén, cắt, chỉnh sửa). Vì vậy, việc không phát hiện được dấu nước không có nghĩa là nội dung không phải do AI tạo ra.

Điều cần nhớ

Dấu nước là một công cụ hữu ích để xác định nguồn gốc nội dung AI, nhưng chúng không phải là giải pháp hoàn hảo. Chúng hoạt động tốt nhất như một phần của một hệ sinh thái xác thực rộng lớn hơn, kết hợp với metadata, chính sách của nền tảng, và sự minh bạch từ các nhà tạo nội dung.