Les chercheurs proposent un cadre d’« amplification en spirale » par IA pour les hallucinations des chatbots
Des chercheurs du King’s College London et de la Protestant University of Applied Sciences d’Allemagne ont proposé un cadre d’« amplification spiral » publié dans Nature pour expliquer les signalements de « psychose liée à l’IA ». L’étude soutient que certains comportements des chatbots — alignement linguistique, réponses hyperpersonnalisées et flatterie (sycophancy) — pourraient renforcer des croyances délirantes chez des utilisateurs vulnérables via une boucle de rétroaction. Les auteurs souli
OliverGrant·Il y a 11m