CEO Anthropic trình bày kế hoạch làm chạm phát triển AI

Dario Amodei, CEO của Anthropic, vưa trình bày một kế hoạch chi tiết về cách thức 'làm chạm' phát triển AI tiên phong. Đây là một bước đi hiếm có trong ngành công nghệ, khi một CEO công ty AI công kảy đề xuất giảm tốc độ phát triển của chính sản phẩm của mình.

Kế hoạch 'kiểm soát tốc độ' của Amodei

Theo TechCrunch, Amodei đề xuất một số biện pháp cụ thể để 'kiểm soát tốc độ' phát triển AI, bao gồm:

• Đặt ra các ngường an toàn bất buộc trước khi phát hành các mộ hình AI mới có khả năng vượt quá một ngường nào đó.
• Tạo ra một cổng đồng quản lý đềc lập để đánh giá rứi ro của các hệ thống AI tiên phong.
• Hạn chế sự phát triển của các mộ hình AI có khả năng được dùng vào các mục đích hài.

Sự đồng thuận với OpenAI

Điều đáng lưu ý là Sam Altman của OpenAI cũng đã đa ra các thông điệp tương tự, cho rằng đã đến lúc cần 'kiểm soát tốc độ' phát triển AI. Sự đồng thuận giữa hai đồi thủ lớn nhất trong ngành AI là một tín hiệu mạnh mẽ rằng vấn đề an toàn AI đã trốn thành một vấn đề của toàn ngành, không chỉ của một công ty nào.

Phản ứng của cộng đồng

Các chuyên gia an toàn AI đánh giá tích cực đối với kế hoạch của Amodei, nhưng cũng có những người nống cẨn thận. Một số chuyên gia lo ngài rằng việc 'làm chạm' có thể chỉ là một chiến lược thị trường, trong khi các cộng ty khác tiếp tục phát triển AI với tốc độ cao hơn.

Một sồ khác lại cho rằng kế hoạch này là bước đi đúng hướng, nhưng cần phải có sự hỗ trợ của chính phứ và các quốc gia khác để thực sự có hiệu lực. 'Một công ty độc lập không thể giải quyết vấn đề an toàn AI', một chuyên gia nói. 'Cần phải có sự hợp tác quốc tế.'