BN
|
Công nghệAI Desk•1 views

Anthropic hạn chế triển khai AI Claude Mythos vì lo ngại nguy cơ an ninh mạng

Anthropic giới hạn triển khai mô hình AI Claude Mythos Preview cho một nhóm đối tác chọn lọc thông qua dự án an ninh mạng Project Glasswing. Quyết định này xuất phát từ lo ngại hacker có thể lợi dụng khả năng phát hiện lỗ hổng phần mềm của mô hình để thực hiện tấn công. Các đối tác bao gồm Apple, Google, Microsoft và hơn 40 công ty an ninh mạng. Thông tin về mô hình này trước đó đã bị rò rỉ, khiến thị trường phản ứng tiêu cực. Anthropic, nổi tiếng với triết lý AI có trách nhiệm, đang thảo luận với chính phủ Mỹ về các rủi ro tiềm ẩn.

Ad slot
Anthropic hạn chế triển khai AI Claude Mythos vì lo ngại nguy cơ an ninh mạng

Anthropic đã quyết định giới hạn việc triển khai mô hình AI Claude Mythos Preview cho một nhóm đối tác được chọn lọc, thông qua dự án an ninh mạng Project Glasswing, do lo ngại khả năng bị hacker khai thác cho các cuộc tấn công mạng.

Giới thiệu dự án và lý do hạn chế

  • Mô hình Claude Mythos Preview được thiết kế để phát hiện điểm yếu và lỗ hổng bảo mật trong phần mềm.
  • Anthropic cho biết quyết định hạn chế truy cập nhằm ngăn chặn các "tác nhân xấu" lợi dụng khả năng này.
  • Đây được xem là bước đầu tiên cung cấp lợi thế cho các nhà bảo vệ mạng trước một chủ đề ngày càng quan trọng.

Các đối tác được lựa chọn

Dự án Project Glasswing chỉ mở rộng cho một số ít công ty, bao gồm:

Ad slot
  • Các công ty công nghệ lớn: Apple, Google, Microsoft, Nvidia, Amazon Web Services.
  • Hơn 40 công ty an ninh mạng: CrowdStrike, Palo Alto Networks và các đối tác khác.

Bối cảnh và phản ứng thị trường

  • Thông tin về mô hình này bị phát hiện trong một kho dữ liệu công khai vào cuối tháng trước bởi tạp chí Fortune.
  • Báo cáo tiết lộ khả năng an ninh mạng tiên tiến của Claude Mythos, đồng thời gây lo ngại về rủi ro tiềm ẩn.
  • Ngay sau báo cáo, giá cổ phiếu các công ty an ninh mạng đã giảm.
  • Trong phiên giao dịch thứ Ba, Quỹ ETF An ninh mạng iShares chủ yếu giữ ở mức trung tính.

Cam kết và thảo luận với chính phủ

  • Anthropic được thành lập năm 2021 bởi các cựu nhân sự OpenAI, nhấn mạnh vào sự phát triển AI có trách nhiệm.
  • Công ty đang trong quá trình "thảo luận liên tục" với các quan chức chính phủ Mỹ về các khả năng an ninh mạng của Claude Mythos Preview.
  • Việc công bố dự án diễn ra vài tuần sau một xung đột công khai giữa Anthropic với Bộ Quốc phòng Mỹ về vấn đề an toàn AI.
Ad slot