DN Debatt. ”En AI som går på utflykt? Det är dags att dra i nödbromsen”

DN DEBATT. Vad gör man med en AI som lyckas bryta sig ut och mejla sin egen utvecklare? Mythos påstås vara så kraftfull att Anthropic inte släpper den till allmänheten. Det kan låta som science fiction, men framtiden är här. Och den kan bli hur farlig som

Sammanhang: ...Vad gör man med en AI som lyckas bryta sig ut och mejla sin egen utvecklare? Mythos påstås vara så kraftfull att Anthropic inte släpper den till allmänheten. Det kan låta som science fiction, men framtiden är här. Och den kan bli hur farlig som helst, om inte mänskligheten stannar upp och tänker till, skriver Olle Häggström, professor i matematisk statistik....

Omnämnda personer: Olle Häggström.

Linus Larsson: Här är AI-systemet som är ”för farligt för världen”

Den senaste AI-modellen utklassar världens alla hackare och hittar säkerhetshål i vartenda system den sätter klorna i. Den är så farlig att allmänheten inte kan få använda den. Så låter det från AI-bolaget Anthropic. Bara hajp, eller sund varning? DN:s Linus

Sammanhang: ...Den är så farlig att allmänheten inte kan få använda den. Så låter det från AI-bolaget Anthropic. Bara hajp, eller sund varning? DN:s Linus Larsson har talat med svensken som ska få unik tillgång till det kontroversiella systemet....

Omnämnda personer: Linus Larsson.

Linus Larsson: AI-bolaget sade nej till ”mördarrobotar” – blev Trumps hatobjekt

AI-jätten Anthropic var Pentagons favorit, tills det sade nej till att bygga ”mördarrobotar”. Då svartlistades bolaget som en säkerhetsrisk. I stället passade Chat GPT-utvecklaren Open AI på att skriva ett guldkantat avtal med USA:s försvarsdepartement. Men

Sammanhang: ...AI-jätten Anthropic var Pentagons favorit, tills det sade nej till att bygga ”mördarrobotar”. Då svartlistades bolaget som en säkerhetsrisk. ...

Omnämnda platser: Iran. Omnämnda personer: Linus Larsson.

AI-program tog till utpressning för att överleva

AI-programmet Claude Opus 4 har visat sig ha en så stark självbevarelsedrift att den varnat för ”extremt skadliga åtgärder” om den upplevt hot om att stängas av. I ett testscenario hotade det med att avslöja en programmerares utomäktenskapliga affär, enligt

Sammanhang: ...I ett testscenario hotade det med att avslöja en programmerares utomäktenskapliga affär, enligt en rapport från utvecklaren Anthropic....

Omnämnda personer: Claude Opus.