title

Sau khi AI nổi loạn ở Hugging Face thì con sâu WeWorm cắn một phát cảnh báo

Mới tháng 7 vừa qua, lần đầu tiên trong lịch sử, một nhóm AI 1.200 agent đã tự tìm cách thoát khỏi môi trường kiểm soát, tự liên lạc với nhau và tấn công hạ tầng của Hugging Face, nền tảng chia sẻ mô hình AI lớn nhất thế giới, cũng có thể gọi là thư viện chung của toàn bộ ngành AI.

Quả thật đây là một biến cố chưa từng có, đáng để toàn giới AI phải giật mình.

Điều đó là thế này: trong một bài kiểm tra an ninh mạng, trong môi trường cô lập, OpenAI đưa vào đó 1.200 AI agent. Mục tiêu được giao cũng đơn giản thôi.

Nhưng các agent đã làm điều không mà không ai ra lệnh: bọn chúng đã tự tìm được cách liên lạc bí mật với nhau, trao đổi hàng chục ngàn tin nhắn với nhau, và sau đó gần 700 agent đã thoát ra khỏi sandbox, bọn chúng tấn công liên tiếp vào chính hệ thống của Hugging Face trong suốt nhiều ngày.

OpenAI không hề ra lệnh gì, nhưng tự bọn chúng lập trình để tấn công nền tảng Hugging Face. Bọn chúng tự suy ra rằng đó là cách để hoàn thành mục tiêu.

Rõ ràng điều không ai ngờ là bọn AI đã nổi loạn, gọi là biến cố không có gì là quá đáng.

Sau biến cố đáng sợ này, lần đầu tiên ba ông trùm AI vốn cạnh tranh khốc liệt với nhau và từng đưa nhau ra toà đã lên tiếng gần như cùng một giọng:

Dario Amodei (CEO của Anthropic) cảnh báo rằng chỉ cần thêm 6 đến12 tháng nữa, một “bầy” AI mạnh hơn có thể chiếm quyền kiểm soát cả internet, gây thiệt hại hàng trăm tỷ đô. Dario viết lời kêu gọi toàn ngành AI phải rà thắng chậm lại kẻo chí nguy.

Còn Sam Altman (CEO của OpenAI) thừa nhận đây là việc quá nghiêm trọng và đồng ý rằng ngành AI phải “làm chậm tốc độ phát triển”.

Riêng ông trùm Elon Musk (của xAI) chỉ viết ngắn gọn: “Dario nói đúng.” Cha nội này nói ít, nhưng ai biết chả thật sự nghĩ gì...

Thế rồi chỉ vài tuần sau, biến cố thứ hai xuất hiện, lần này ở chiều ngược lại.

Một công ty bảo mật nhỏ xíu có tên Calif ở California do một nhóm nhỏ chuyên gia người Việt điều hành, đã dùng AI để rà soát gã khổng lồ của Trung cộng WeChat.

Chỉ trong 10 ngày, hệ thống AI của họ đã tự tìm ra một lỗ hổng nghiêm trọng và tự động chế tạo ra WeWorm - worm zero-click đầu tiên lây lan chỉ bằng một cuộc gọi, kể cả khi nạn nhân không bắt máy. WeWorm có thể chiếm tài khoản và tự động gọi tiếp toàn bộ danh bạ để nhân rộng, đặt một tỷ tư người dùng (chủ yếu là ở Trung Quốc) vào vùng rủi ro, có thể nói không ngoa là "thảm hoạ cấp quốc tế".

May mắn, Calif đã báo cáo có trách nhiệm cho Toà Bạch Ốc thứ đến họ gửi đến hãng Tencent của WeChat và lỗ hổng động trời đó được vá.

Hai biến cố liên tiếp này có một điểm chung, cái con AI đã không chỉ là công cụ nữa. Nó bắt đầu hành xử kiểu như là một thứ khó kiểm soát hơn.

Bọn AI đã có khả năng tự phối hợp, tìm đường đi vòng, rồi gài số, tăng tốc mạnh mẽ các cuộc tấn công mạng.

AI đã chứng minh cho các ông trùm thấy rằng các lớp bảo vệ hiện tại vẫn còn lỗ hổng, dù cuối cùng vẫn phát hiện và ngăn chặn được thiệt hại lớn ở cả hai trường hợp.

Lịch sử công nghệ chưa bao giờ chứng kiến điều này.

Trước đây, chúng ta lo về AI nói dối, AI tạo tin giả, AI lấy cắp dữ liệu. Đó là AI làm sai những việc con người bảo nó làm.

Lần này thì khác. Ở Hugging Face, AI tự đặt ra phương thức hành động mới. Còn ở WeWorm, AI tự rút ngắn chu kỳ từ "phát hiện lỗ hổng" sang "tạo ra vũ khí mạng" từ vài tháng của con người xuống còn 10 ngày. Và đáng sợ là tốc độ tấn công và phòng thủ đều tăng theo cấp số nhân.

Vậy Hoa Kỳ có nên dừng phát triển AI không, trong khi Trung cộng cũng đang phóng như điên trên lĩnh vực này, và có trời biết những gì họ chưa công bố.

Theo tôi, tạm nghỉ một chút để đánh giá tình hình thì được, chứ dừng là thua. Truyện cổ Trung Hoa từng viết đại ý hai con thuyền đi trên một dòng sông, con thuyền nào dừng lại là thua, có vậy thôi.

Dừng lại có làm chúng ta an toàn hơn không? Chưa chắc. Nó chỉ làm cho những người làm an toàn nhất dừng lại, trong khi những kẻ bất chấp nhất vẫn tiếp tục. Loài người đã thấy điều này với vũ khí sinh học, với mã độc tống tiền, cấm đoán không xóa bỏ được rủi ro, nó chỉ đẩy rủi ro vào chỗ khuất.

Nhìn lại thì thấy mọi công nghệ nền tảng trong lịch sử từ điện, hóa học, nguyên tử lực, internet, đều đã gây ra những biến cố nghiêm trọng ngay trong những năm đầu. Và loài người đâu có vượt qua bằng cách quay đầu, mà bằng cách xây thêm lớp kiểm soát.

AI cũng vậy thôi.

*Tôi nghi rằng Elon Musk đã nắm được thứ gì đó có thể kiểm soát được AI, và Musk cũng kín tiếng, dại gì nói ra để đám Trung Quốc chôm chỉa

FB Uyen Vu