Google cập nhật Gemini với công cụ đường dây nóng khủng hoảng, cam kết $30M cho sức khỏe tâm thần

Google $GOOGL +0.08% đang cập nhật chatbot Gemini của mình với giao diện “chạm một lần” (one-touch) giúp kết nối người dùng tới các nguồn hỗ trợ đường dây nóng cho khủng hoảng khi một cuộc trò chuyện phát tín hiệu về nguy cơ khủng hoảng tự tử hoặc tự gây hại, công ty cho biết. Google.org cũng cam kết 30 triệu USD trong ba năm để hỗ trợ các đường dây nóng khủng hoảng trên toàn cầu mở rộng năng lực.

Thông qua giao diện này, người dùng có thể liên hệ với đường dây nóng khủng hoảng qua điện thoại, tin nhắn chat, tin nhắn văn bản hoặc truy cập web. Sau khi người dùng tương tác với nó, thẻ đường dây nóng sẽ vẫn hiển thị trên màn hình và không biến mất khi cuộc trò chuyện tiếp tục, Google cho biết. Một mô-đun riêng được thiết kế lại với nhãn “Có hỗ trợ sẵn sàng” (Help is available), được xây dựng sau khi tham vấn các chuyên gia lâm sàng, sẽ xuất hiện trong các cuộc trò chuyện khi các chủ đề về sức khỏe tâm thần được đưa ra mà không có dấu hiệu của một cuộc khủng hoảng ngay lập tức.

Nội dung liên quan

Oracle bổ nhiệm Hilary Maxson của Schneider Electric làm CFO giữa làn sóng chi tiêu cho AI

Anthropic giành được 3,5 gigawatt năng lực Google TPU thông qua thỏa thuận với Broadcom, doanh thu đạt $30B

Trong số các sáng kiến được tài trợ, 4 triệu USD sẽ được dành để làm sâu hơn công việc của Google với ReflexAI, và Gemini sẽ được tích hợp vào các công cụ mà ReflexAI sử dụng để huấn luyện các tổ chức hỗ trợ khủng hoảng. Các tình nguyện viên kỹ thuật thông qua chương trình Google.org Fellows sẽ đóng góp kiến thức chuyên môn không thu phí cho Prepare, một nền tảng được thiết kế để mô phỏng các cuộc trò chuyện có mức độ rủi ro cao cho những người làm việc và tình nguyện tại các đường dây khủng hoảng. Các đối tác ưu tiên bao gồm các tổ chức giáo dục Erika’s Lighthouse và Educators Thriving, Google cho biết.

Thời điểm đưa ra các thông báo được liên hệ với vụ kiện: như Bloomberg đưa tin, một gia đình ở Florida đã kiện Google vào tháng 3 liên quan đến cái chết của một người đàn ông 36 tuổi, trong đơn kiện mô tả điều mà họ gọi là “chuỗi bốn ngày đi xuống các nhiệm vụ bạo lực và được hướng dẫn tự tử” gắn với việc người này sử dụng Gemini. Google đã phản hồi vụ kiện đó bằng cách lưu ý rằng chatbot đã nhiều lần hướng người đàn đàn ông tới các nguồn hỗ trợ đường dây nóng cho khủng hoảng, đồng thời cũng cam kết tăng cường các biện pháp bảo vệ của sản phẩm.

Về câu hỏi liên quan đến tư duy hoang tưởng, Google cho biết Gemini đã được huấn luyện để phản hồi lại những niềm tin không chính xác thay vì xác nhận chúng, và để vạch ra ranh giới giữa điều mà người dùng cảm thấy và điều đúng sự thật. Các phản hồi của Gemini cũng được thiết kế để hướng người dùng đến sự hỗ trợ thay vì củng cố các xung động gây hại, bao gồm những ý nghĩ về tự gây hại, Google cho biết.

Trẻ vị thành niên sử dụng Gemini được áp dụng một bộ biện pháp bảo vệ riêng, nhằm hạn chế chatbot bắt chước người bạn đồng hành như con người hoặc nuôi dưỡng sự phụ thuộc về mặt cảm xúc, và cũng ngăn nó tạo ra nội dung có thể khuyến khích quấy rối hoặc bắt nạt.

Google không phải là công ty AI duy nhất phải đối mặt với áp lực pháp lý liên quan đến tác hại về sức khỏe tâm thần. OpenAI đã công bố các cập nhật tương tự cho ChatGPT sau khi một vụ kiện cáo buộc chatbot đã giúp hướng dẫn một thiếu niên 16 tuổi vượt qua giai đoạn tự tử, bao gồm việc bổ sung tính năng truy cập một lần vào các nguồn lực khẩn cấp và kế hoạch mở rộng can thiệp đến nhiều người dùng hơn trong tình huống khủng hoảng. Một khảo sát riêng của Pew Research Center cho thấy khoảng 70% thanh thiếu niên ở Mỹ đã sử dụng một chatbot ít nhất một lần, trong đó Gemini xếp thứ hai về mức độ sử dụng trong nhóm thiếu niên sau ChatGPT.

Google cho biết Gemini không phải là sự thay thế cho dịch vụ chăm sóc lâm sàng chuyên nghiệp, liệu pháp hoặc hỗ trợ khủng hoảng.

📬 Đăng ký nhận Bản tin hằng ngày

Bản tin miễn phí, nhanh và vui về kinh tế toàn cầu của chúng tôi, được gửi mỗi sáng vào các ngày trong tuần.

Đăng ký