Công nghệ AI có thể tạo ra 40.000 hợp chất vũ khí hóa học chỉ trong khoảng 6 giờ

Trong một bài báo được đăng tải trên tạp chí Nature Machine Intelligence, công ty Collaborations Pharmaceuticals đã mô tả phương thức sử dụng mô hình học máy MegaSyn để tạo ra các phân tử vũ khí hóa học.

Mô hình này thường được sử dụng để điều chế các loại thuốc trị bệnh tiềm năng, vận hành bằng cách loại bỏ các phân tử độc hại trước khi các nhà khoa học tổng hợp chúng. Tuy nhiên, thay vì loại bỏ các phân tử này, Collaboration Pharmaceuticals đã đảo ngược quy trình bằng cách thêm cơ sở dữ liệu độc tính có sẵn và hướng dẫn AI “khen thưởng” cho độc tính. Kết quả là AI đã tạo ra một số hợp chất chết người không có trong dữ liệu ban đầu. Hầu hết các hợp chất này đều độc hại.

Ông Fabio Urbina, tác giả chính của bài báo, nhà khoa học cấp cao tại Collaborations Pharmaceuticals, phát biểu rằng công ty của ông không mong muốn hay có kế hoạch tổng hợp các hợp chất này để kiểm tra hiệu quả của thí nghiệm. Theo ông, mục đích chính của thử nghiệm là tìm giải pháp cho những sự cố sử dụng sai các kỹ thuật học máy của AI.

Ông Urbina giải thích rằng kẻ xấu có thể chỉ cần một cơ sở dữ liệu về độc tính, và nhiều cơ sở dữ liệu được công bố rộng rãi để tạo ra các phân tử này. Chúng sẽ chỉ cần một thuật toán học máy mã nguồn mở, mã hóa Python và kiến thức học máy để khôi phục lại phần dữ liệu.

Bất chấp mối đe dọa tiềm tàng, ông Urbina không tranh luận về việc ngừng chia sẻ kiến thức nguồn mở hay cần phải quản lý chặt chẽ thị trường AI. Thay vào đó, theo ông, việc theo dõi những người đang sử dụng dữ liệu khi nó có khả năng gây nguy hiểm được xem là một động thái hữu hiệu. Ông cũng nhận định rằng các nhà nghiên cứu về học máy nên được đào tạo về những mối nguy cơ tiềm ẩn của việc sử dụng sai mục đích, tương tự như các sinh viên chuyên ngành hóa học.

Theo Sputnik News,

Phan Anh