Cựu lãnh đạo an toàn OpenAI Jan Leike gia nhập đối thủ Anthropic
Cựu trưởng nhóm nghiên cứu an toàn tại OpenAI, Jan Leike, đã chính thức gia nhập Anthropic, một công ty khởi nghiệp AI đối thủ. Sự chuyển dịch này diễn ra sau khi Leike từ chức khỏi OpenAI, cùng với việc giải thể nhóm superalignment mà ông đồng lãnh đạo. Leike bày tỏ mong muốn tiếp tục sứ mệnh superalignment tại Anthropic, tập trung vào nghiên cứu căn chỉnh tự động và giám sát quy mô lớn. Sự kiện này phản ánh tầm quan trọng ngày càng cao của an toàn AI trong ngành công nghệ. Anthropic, được thành lập bởi các cựu nhân viên OpenAI, đã nhận được sự hỗ trợ tài chính từ các tập đoàn lớn như Amazon, Google và Salesforce. Trong khi đó, OpenAI cũng đang tăng cường các biện pháp an toàn bằng cách thành lập một ủy ban an toàn và bảo mật mới.
Ad slot
Jan Leike, cựu trưởng nhóm nghiên cứu an toàn tại OpenAI, đã chính thức chuyển sang làm việc tại Anthropic, một công ty khởi nghiệp AI đối thủ. Sự chuyển dịch này nhấn mạnh tầm quan trọng ngày càng tăng của việc nghiên cứu an toàn và căn chỉnh AI (AI alignment) trong ngành công nghệ.
Chi tiết về sự chuyển dịch nhân sự
Jan Leike, một trong những nhà nghiên cứu an toàn hàng đầu tại OpenAI, đã thông báo việc gia nhập Anthropic vào thứ Ba. Việc chuyển công tác này diễn ra sau khi ông từ chức khỏi OpenAI vào ngày 15 tháng 5, trùng với thời điểm công ty giải thể nhóm superalignment mà ông đồng lãnh đạo.
Leike bày tỏ sự hào hứng về vai trò mới tại Anthropic, nhấn mạnh việc tiếp tục sứ mệnh superalignment. Theo thông báo của ông, nhóm mới của ông sẽ tập trung vào các lĩnh vực nghiên cứu tiên tiến bao gồm:
Giám sát có khả năng mở rộng (scalable oversight).
Khả năng tổng quát hóa từ yếu đến mạnh (weak-to-strong generalization).
Nghiên cứu căn chỉnh tự động (automated alignment research).
Ad slot
Bối cảnh ngành AI và sự cạnh tranh
Sự kiện này diễn ra trong bối cảnh ngành công nghệ đang chứng kiến sự tăng trưởng bùng nổ của các sản phẩm AI tạo sinh (generative AI), kéo theo những lo ngại về rủi ro xã hội.
Về OpenAI: Sau khi Ilya Sutskever, đồng sáng lập, thông báo rời đi, OpenAI đã tăng cường các biện pháp an toàn bằng cách thành lập một ủy ban an toàn và bảo mật mới, do các giám đốc cấp cao, bao gồm cả CEO Sam Altman, dẫn dắt. Ủy ban này có nhiệm vụ đưa ra các quyết định về an toàn và bảo mật cho các dự án và hoạt động của công ty.
Về Anthropic: Anthropic được thành lập năm 2021 bởi các anh chị em Dario và Daniela Amodei cùng nhiều cựu nhân viên OpenAI. Công ty này đã ra mắt đối thủ của ChatGPT là Claude 3 vào tháng 3 và nhận được sự hỗ trợ tài chính lớn từ các tập đoàn lớn như Amazon (cam kết tới 4 tỷ USD), Google, Salesforce và Zoom.
Tầm quan trọng của An toàn AI
Kể từ khi OpenAI giới thiệu ChatGPT vào cuối năm 2022, an toàn AI đã trở thành chủ đề nóng hổi trên toàn ngành công nghệ. Nhiều chuyên gia và nhà đầu tư bày tỏ quan ngại rằng các công ty đang phát triển và tung ra các sản phẩm AI mạnh mẽ quá nhanh, mà chưa xem xét đầy đủ các tác hại tiềm tàng đối với xã hội.
