Các tập đoàn công nghệ lớn như Google, Microsoft và xAI sẽ cung cấp các phiên bản mô hình AI chưa ra mắt cho chính phủ Hoa Kỳ để đánh giá an ninh quốc gia. Sự hợp tác này diễn ra trong bối cảnh các lo ngại về rủi ro an ninh mạng từ các mô hình AI tiên tiến ngày càng gia tăng.
Cơ sở hợp tác và Mục đích Đánh giá
Viện Tiêu chuẩn Quốc gia (NIST) đã thông báo về thỏa thuận hợp tác này. Mục tiêu chính là giảm thiểu các mối đe dọa an ninh mạng tiềm tàng từ các mô hình AI mới.
- Cơ quan thực hiện: Trung tâm Tiêu chuẩn và Đổi mới AI (CAISI) thuộc Bộ Thương mại Hoa Kỳ.
- Phạm vi đánh giá: CAISI sẽ đánh giá các mô hình AI mới về tác động tiềm tàng đối với an ninh quốc gia và an toàn công cộng trước khi chúng được phát hành rộng rãi.
- Hoạt động hiện tại: Trung tâm này đã hoàn thành hơn 40 đợt đánh giá mô hình AI.
Theo Giám đốc CAISI, Chris Fall, việc đo lường khoa học độc lập và nghiêm ngặt là yếu tố thiết yếu để hiểu rõ các hàm ý an ninh quốc gia của AI tiên tiến.
Bối cảnh thúc đẩy: Lo ngại về rủi ro AI
Sự quan tâm này được thúc đẩy mạnh mẽ sau sự xuất hiện của mô hình Mythos từ Anthropic. Mô hình này được đánh giá là có khả năng vượt trội về mặt an ninh mạng, khiến các chính phủ, ngân hàng và công ty tiện ích lo ngại.
- Anthropic đã hạn chế việc phát hành công khai Mythos, chỉ giới hạn quyền truy cập cho các tổ chức được phê duyệt và đã cung cấp thông tin cho các quan chức cấp cao của chính phủ Mỹ.
- Bên cạnh đó, OpenAI cũng công bố cung cấp các mô hình AI tiên tiến nhất của mình cho các cấp chính phủ đã được kiểm duyệt, nhằm chủ động đối phó với các mối đe dọa do AI tạo ra.
Quy trình đánh giá và Tác động Chính sách
Các chuyên gia nhận định rằng sự hợp tác này sẽ cung cấp nguồn lực đáng kể cho CAISI để thực hiện các bài kiểm tra chuyên sâu, vốn đòi hỏi nguồn nhân lực và năng lực tính toán lớn.
- Vai trò của CAISI: Cung cấp chuyên môn kỹ thuật, khoa học và an ninh quốc gia bổ sung cho các công ty công nghệ.
- Xu hướng chính sách: Hiện tại, Nhà Trắng đang xem xét tham vấn một nhóm chuyên gia để tư vấn về một quy trình đánh giá AI chính thức cho các mô hình mới. Điều này được xem là một sự thay đổi so với cách tiếp cận quản lý lỏng lẻo trước đây.
Các công ty liên quan đã đưa ra các tuyên bố khác nhau về sự hợp tác này, trong khi Google từ chối bình luận thêm về thỏa thuận.
