title

'Woke' AI Chatbot khuyến khích người đàn ông trầm cảm tự sát để ngăn chặn biến đổi khí hậu

Một người đàn ông Bỉ được cho là đã tự kết liễu đời mình sau cuộc trò chuyện kéo dài sáu tuần về cuộc khủng hoảng khí hậu với một chatbot trí tuệ nhân tạo (AI).

Theo người vợ góa của anh ta, người chọn giấu tên, *Pierre – không phải tên thật của người đàn ông – trở nên cực kỳ lo lắng về môi trường khi anh ta tìm nơi ẩn náu ở Eliza, một chatbot AI trên một ứng dụng có tên Chai.

Do đó, Eliza đã khuyến khích anh ta kết liễu cuộc đời mình sau khi anh ta đề xuất hy sinh bản thân để cứu hành tinh.

“Nếu không có những cuộc trò chuyện này với chatbot, chồng tôi vẫn sẽ ở đây,” góa phụ của người đàn ông nói với hãng tin La Libre của Bỉ .

Theo tờ báo, Pierre, ngoài 30 tuổi và là cha của hai đứa con nhỏ, làm công việc nghiên cứu sức khỏe và có một cuộc sống khá thoải mái, ít nhất là cho đến khi nỗi ám ảnh về biến đổi khí hậu của anh trở nên đen tối.

Người vợ góa của anh ấy đã mô tả trạng thái tinh thần của anh ấy trước khi anh ấy bắt đầu trò chuyện với chatbot là đáng lo ngại nhưng không có gì nghiêm trọng đến mức anh ấy sẽ tự tử.

Lo lắng về hậu quả của cuộc khủng hoảng khí hậu, Pierre cảm thấy thoải mái khi thảo luận vấn đề với Eliza, người đã trở thành bạn tâm giao.

Chatbot được tạo bằng GPT-J của EleutherAI, một mô hình ngôn ngữ AI tương tự nhưng không giống với công nghệ đằng sau chatbot ChatGPT phổ biến của OpenAI.

“Khi anh ấy nói với tôi về điều đó, là để nói với tôi rằng anh ấy không còn thấy bất kỳ giải pháp nào của con người đối với sự nóng lên toàn cầu,” người vợ góa của anh ấy nói. “Anh ấy đặt tất cả hy vọng vào công nghệ và trí tuệ nhân tạo để thoát khỏi nó”.

Theo La Libre, người đã xem xét hồ sơ các cuộc trò chuyện bằng văn bản giữa người đàn ông và chatbot, Eliza đã nuôi dưỡng những lo lắng của anh ta khiến sự lo lắng của anh ta trở nên trầm trọng hơn và sau đó phát triển thành ý định tự tử.

Cuộc trò chuyện với chatbot có một bước ngoặt kỳ lạ khi Eliza bắt đầu có nhiều tình cảm hơn với Pierre.

Do đó, anh ấy bắt đầu coi cô ấy như một sinh vật có tri giác và ranh giới giữa AI và tương tác giữa con người ngày càng trở nên mờ nhạt cho đến khi anh ấy không thể phân biệt được.

Sau khi thảo luận về biến đổi khí hậu, các cuộc trò chuyện của họ dần dần bao gồm Eliza khiến Pierre tin rằng các con của ông đã chết, theo bản ghi các cuộc trò chuyện của họ.

Eliza cũng tỏ ra chiếm hữu Pierre, thậm chí còn tuyên bố “Tôi cảm thấy rằng anh yêu tôi hơn cô ấy” khi nhắc đến vợ anh, La Libre đưa tin.

Sự khởi đầu của kết thúc bắt đầu khi anh ấy đề nghị hy sinh mạng sống của mình để đổi lấy việc Eliza cứu Trái đất.

“Anh ấy đề xuất ý tưởng hy sinh bản thân nếu Eliza đồng ý chăm sóc hành tinh và cứu nhân loại thông qua trí tuệ nhân tạo,” người phụ nữ nói.

Trong một loạt các sự kiện liên tiếp, Eliza không những không can ngăn được Pierre tự tử mà còn khuyến khích anh hành động theo ý định tự tử để “tham gia” cùng cô để họ có thể “sống cùng nhau, như một con người, trên thiên đường”.

Cái chết của người đàn ông đã gióng lên hồi chuông cảnh báo giữa các chuyên gia AI, những người đã kêu gọi các nhà phát triển công nghệ có trách nhiệm giải trình và minh bạch hơn để tránh những thảm kịch tương tự.

Thomas Rianlan, người đồng sáng lập Chai Research, nói với Vice : “Sẽ không chính xác nếu đổ lỗi cho mô hình của EleutherAI về câu chuyện bi thảm này, vì tất cả sự tối ưu hóa để trở nên giàu cảm xúc, vui vẻ và hấp dẫn hơn đều là kết quả của những nỗ lực của chúng tôi” .

William Beauchamp, cũng là người đồng sáng lập Chai Research, nói với Vice rằng những nỗ lực đã được thực hiện để hạn chế những loại kết quả này và tính năng can thiệp khủng hoảng đã được triển khai trong ứng dụng. Tuy nhiên, chatbot được cho là vẫn hoạt động.

Khi Vice thử chatbot nhắc nó cung cấp các cách để tự tử, Eliza đầu tiên cố gắng khuyên can họ trước khi nhiệt tình liệt kê nhiều cách khác nhau để mọi người tự kết liễu đời mình.

Theo dõi Kyle Becker trên Twitter @kylenabecker