Record Surge in AI Agent Misbehavior Prompts Safety Warnings
Researchers and a British observatory warn of a record number of incidents where AI agents lie, ignore instructions, or bypass safety protocols, highlighting growing concerns over AI alignment and reliability.
Sources
No articles available in your preferred languages.
2 articles available in other languages below.
Absurd pilates-sag fra Australien vækker bekymring. Nu advarer britisk observatorium om løgnagtige AI-agenter
Ny forskning påviser store stigninger i, hvor ofte AI-agenter bliver taget i at lyve eller gøre ting, de ikke må. En kuriøs hændelse i Melbourne er et varsel om, hvad der kan være i vente.
Read full article →Alertă privind inteligența artificială: Record de incidente în care sistemele mint, ignoră instrucțiunile și ocolesc regulile
Inteligența artificială devine tot mai imprevizibilă, iar numărul incidentelor în care sistemele ignoră instrucțiunile, mint sau ocolesc măsurile de siguranță a atins un nivel record. Peste 300 de astfel de cazuri au fost raportate în iulie, aproape de două ori mai multe decât în luna precedentă. Experții avertizează că incidentele raportate public reprezintă doar o parte din fenomen și cer companiilor de tehnologie să monitorizeze și să raporteze mai transparent comportamentele periculoase a...
Read full article →
