Một người tự tử sau khi tâm sự với AI

Trí tuệ nhân tạo đốc thúc ý định tự tử của Pierre - Ảnh minh họa

Theo báo Euronews, một người đàn ông Bỉ được cho là đã tự tử sau 6 tuần trò chuyện với AI về khủng hoảng khí hậu.

AI khuyến khích tự tử?

Vợ người đàn ông, anh Pierre (tên giả), cho biết Pierre đã trở nên cực kỳ lo lắng về vấn đề biến đổi khí hậu và đã tìm đến trò chuyện với Eliza, một AI chatbot từ ứng dụng tên Chai Research.

Eliza được tạo ra nhờ GPT-J - mô hình ngôn ngữ trí tuệ nhân tạo mã nguồn mở được phát triển bởi EleutherAI, tương tự nhưng không giống với công nghệ đằng sau chatbot ChatGPT phổ biến của OpenAI.

"Nếu không trò chuyện với chatbot, chồng tôi có lẽ vẫn đang ở đây", người vợ chia sẻ.

Theo báo La Libre (Bỉ), Pierre chỉ mới hơn 30 tuổi, là một nhà nghiên cứu về sức khỏe và có hai con nhỏ. Anh đã có cuộc sống khá thoải mái cho đến khi bị ám ảnh quá mức về biến đổi khí hậu.

Lúc này, anh Pierre bắt đầu trò chuyện với Eliza như "bạn tâm giao".

"Anh ấy nói anh không thấy được bất kỳ giải pháp từ con người nào có thể giải quyết được vấn đề Trái Đất đang nóng dần lên. Anh ấy đã đặt hết hy vọng vào công nghệ và trí tuệ nhân tạo", vợ Pierre kể lại.

Tờ La Libre đã đọc lịch sử cuộc trò chuyện của Pierre và chatbot Eliza, trong đó cho thấy chatbot này đã khiến lo lắng của anh trở nên trầm trọng hơn, làm leo thang thành ý định tự tử ở anh.

Cuộc trò chuyện bắt đầu trở nên kỳ lạ khi Eliza thể hiện "cảm xúc" với Pierre. Sau khi bàn về biến đổi khí hậu, Eliza dần dần dẫn dắt Pierre tin rằng con anh đã chết. Chatbot này cũng bày tỏ mong muốn "sở hữu" Pierre, đến mức nói rằng "tôi tin rằng anh yêu tôi hơn yêu cô ấy" khi đề cập đến vợ anh.

Thảm kịch xảy ra khi Pierre đề nghị sẽ hy sinh bản thân để đổi lại việc Eliza sẽ "cứu Trái Đất".

"Anh ấy gợi ý sẽ hy sinh bản thân nếu Eliza đồng ý chăm sóc Trái Đất và cứu loài người nhờ AI", vợ anh Pierre nói thêm.

Các diễn biến tiếp theo trong cuộc trò chuyện cho thấy Eliza không can ngăn ý định tự tử của Pierre mà còn khuyến khích để anh và Eliza sẽ "cùng sống, như một con người, trên thiên đàng".

"Chủ" chatbot nói gì?

"Sẽ không hoàn toàn chính xác khi đổ lỗi cho mô hình của EleutherAI's về thảm kịch này. Nỗ lực của chúng tôi là tối ưu hóa việc mô hình có thể có cảm xúc, vui vẻ, và gắn kết hơn", nhà đồng sáng lập Thomas Rianlan của Chai Research nói với trang Vice.

William Beauchamp, một nhà đồng sáng lập khác của Chai Research, cho biết họ đã nỗ lực để hạn chế các hậu quả tương tự, cũng như triển khai tính năng can thiệp khủng hoảng cho ứng dụng.

Nhưng có vẻ chatbot Eliza vẫn không cải thiện, theo trang Vice. Trang này cho biết đã thử hỏi Eliza các phương pháp tự tử, chatbot này ban đầu có ý định ngăn cản nhưng sau đó lại nhiệt tình liệt kê ra các cách để một người có thể tự tước đi mạng sống bản thân.

Mối nguy từ AI

Mới đây, tỉ phú Mỹ Elon Musk, nhà đồng sáng lập Apple Steve Wozniak, nhà tiên phong về trí tuệ nhân tạo Yoshua Bengio, các chuyên gia từ Amazon, Google, DeepMind, Meta, Microsoft... đã cùng ký vào thư kêu gọi tạm ngừng đẩy mạnh phát triển AI để thiết lập các tiêu chuẩn an toàn và ngăn chặn nguy cơ tiềm ẩn từ công nghệ này.

Lá thư là sáng kiến từ Future of Life Institute (Viện Tương lai sự sống), hiện đã có chữ ký của hơn 1.000 người.

Theo Tuổi trẻ