CEO Anthropic Dario Amodei cảnh báo về một 'khoảnh khắc nguy hiểm' an ninh mạng, khi các mô hình AI đã phát hiện hàng chục nghìn lỗ hổng phần mềm nghiêm trọng trong các hệ thống quan trọng toàn cầu.
Phát hiện lỗ hổng quy mô lớn từ mô hình AI
Tại một sự kiện gần đây, Dario Amodei, CEO của Anthropic, đã công bố về mô hình AI mới của công ty mang tên Mythos. Mô hình này đã phát hiện ra hàng chục nghìn lỗ hổng phần mềm tồn tại trong các hệ thống của các tổ chức công nghệ, chính phủ và ngân hàng.
- Mức độ nghiêm trọng: Các lỗ hổng này được mô tả là tồn tại trong các phần mềm quan trọng và có thể gây ra thiệt hại tài chính lớn.
- So sánh quy mô: Amodei cho biết, một mô hình Anthropic trước đây chỉ tìm thấy khoảng 20 lỗ hổng trong trình duyệt Firefox, trong khi Mythos đã phát hiện gần 300 lỗ hổng, và tổng số lỗ hổng qua các bản cập nhật đã lên tới hàng chục nghìn.
Thời gian khắc phục và rủi ro an ninh mạng
Ông Amodei ước tính rằng các tổ chức có khoảng 6 đến 12 tháng để vá các lỗ hổng này. Ông đặc biệt lưu ý rằng các mô hình AI đối thủ từ các quốc gia khác có thể chậm hơn, tạo ra một khoảng thời gian tương đối để khắc phục.
Ông nhấn mạnh mối nguy hiểm gia tăng về số lượng lỗ hổng, nguy cơ bị tấn công ransomware nhắm vào các cơ sở y tế, trường học và ngân hàng.
Biện pháp hạn chế truy cập
Do lo ngại về việc các tác nhân xấu hoặc các quốc gia đối địch khai thác các lỗ hổng này, Anthropic đã thực hiện các biện pháp kiểm soát nghiêm ngặt đối với Mythos.
- Hiện tại, Anthropic đã giới hạn quyền truy cập vào mô hình Mythos chỉ cho một số công ty đối tác nhất định.
- Các lỗ hổng được phát hiện chưa được công bố công khai vì chúng vẫn đang trong quá trình vá lỗi, và nếu bị xác định, chúng sẽ bị khai thác.
Những phát hiện này được công bố trong sự kiện có sự tham gia của CEO JPMorgan Chase, Jamie Dimon, và việc giới thiệu một bộ tác nhân (agents) mới nhằm tự động hóa các tác vụ tài chính.
