Vem tar voltan när AI-agenten begår brott?

Frågan om AI-säkerhet fortsätter att ”diskuteras” med oförminskad intensitet och utan några större försök att göra saker konkreta eller ens begripliga. Senaste veckan har Bill Gates varit ute och vevat om att AI i fel händer kan orsaka ”en miljard dödsfall”

Sammanhang: ...Senaste veckan har Bill Gates varit ute och vevat om att AI i fel händer kan orsaka ”en miljard dödsfall” och i Anthropics prospekt inför börsnoteringen varnar företaget igen för att tekniken som de vill att investerare satsar pengar på kan innebära ”katastrofala eller existentiella risker för mänskligheten”. Samtidigt kommer fler rapporter om AI-modeller som agerar utanför sina instruktioner (eller snarare utanför sina usla skyddsvallar), som Open AI-agenten som mer eller mindre ddosade FN i jakt på data. ...

Omnämnda platser: Kina, Europa, USA. Omnämnda personer: Marcus Jerrängs, Bill Gates, GPT-6.1 Astra.

De tror faktiskt på AI-apokalypsen

”Jacob har rätt här – vi tror verkligen uppriktigt att AI skulle kunna utrota hela mänskligheten! Personligen tror jag att sannolikheten är >10 % inom det kommande decenniet. Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet

Sammanhang: ...Det är bara PR, skriker andra, ett sätt att skryta med hur viktig och avancerad teknik man jobbar med, för att locka investerare inför kommande börsnoteringar. Eller så är inbromsningen ett svepskäl för att dölja det faktum att varken pengar eller kapacitet räcker till just nu, så AI-labben har inte så mycket val. ...

Omnämnda platser: Slate, Lesswrong, Amodei. Omnämnda personer: Donald Trump, Elon Musk, Jacob Coxon.

Svenska AI-bolaget tar in nära en miljard

När det gäller medicinsk teknik (healthtech) har svenska Tandem Health fått en hel del uppmärksamhet på sistone. Tandem erbjuder en sorts copilot för vårdpersonal som bland annat hjälper till med journalföring. Nu står det klart att Tandem Health har dragit

Sammanhang: ...Nu står det klart att Tandem Health har dragit in 100 miljoner dollar (977 miljoner kronor) i den senaste investeringsrundan, vilket innebär att man sammanlagt har lockat till sig 160 miljoner dollar från investerare....

Omnämnda personer: Tandem Health.

Företag inte lika sugna på Anthropics bästa AI-modell

Ny betalningsdata från Ramp tyder på att Anthropics mest avancerade AI-modell Fable 5 har fått en trög start bland företagskunder, rapporterar Financial Times. Två månader efter lanseringen står Fable 5 för omkring 11 procent av företagens totala utgifter

Sammanhang: ...Det bryter den tidigare trenden där kunder snabbt gått över till den mest kraftfulla modellen. Enligt analytiker och investerare beror utvecklingen framförallt på Fable 5:s höga pris och att billigare modeller är tillräckligt bra för de flesta arbetsuppgifter....

Omnämnda platser: Ramp. Omnämnda personer: AI-modell Fable.

7 sätt att använda AI i den fysiska världen

Förutsättningar för fysisk AI It-chefer som funderar på hur man kan använda fysisk AI bör tänka bortom de människoliknande robotar som väcker stor uppmärksamhet, säger Adnan Masood, chefsarkitekt för AI hos digitaliseringsföretaget UST. – Jag brukar gecio:er

Sammanhang: ...För att fysisk AI ska få stor genomslagskraft måste ett antal förutsättningar vara uppfyllda, menar Vikram Venkat, investerare i fysiska AI-system hos Cota Capital. För det första bör det finnas en betydande arbetskraftskomponent, till exempel befintlig eller förväntad brist på arbetskraft eller förhållanden som gör arbetet farligt för människor, säger han. ...

Omnämnda platser: Texas, Chevron, Kneron. Omnämnda personer: Adnan Masood, Boston Dynamics, Vikram Venkat.

AMD lägger vantarna på chipptillverkaren Taalas

AMD låter meddela att man har förvärvat Taalas, ett kanadensiskt företag som specialiserat sig på AI-chipp. Taalas chipp är optimerade för specifika AI-modeller, något som ger högre prestanda till en lägre kostnad. – Från det ögonblick vi får tillgång till

Sammanhang: ...Taalas grundades så sent som 2023 och har fram tills nu lyckats skrapa ihop 219 miljoner dollar från investerare. Hur mycket som AMD betalar för Taalas framgår inte av rapporteringen....

Omnämnda personer: Ljubisa Bajic.

Spacex ska jobba mobil-liknande AI-enhet

Spacex ska ha visat upp en prototyp av en AI-driven handhållen enhet för investerare, enligt uppgifter till The Wall Street Journal. Enheten beskrivs som tunnare och mer slimmad än en Iphone. Enligt tidningens källor är prototypen fortfarande i ett tidigt

Sammanhang: ...Spacex ska ha visat upp en prototyp av en AI-driven handhållen enhet för investerare, enligt uppgifter till The Wall Street Journal. Enheten beskrivs som tunnare och mer slimmad än en Iphone. ...

Omnämnda personer: Jony Ive.

WWDC: Levde Apple upp till AI-förväntningarna?

Som förväntat introducerade Apple också API:er som utvecklare kommer att kunna använda för att tillhandahålla nya AI-funktioner i sina appar. Bland de många enskilda verktyg som de flesta av oss kan förvänta oss att använda i höst finns: Siri AI, som kan

Sammanhang: ...Detta fick vissa analytiker att inför evenemanget säga: ”För Apple är det positiva scenariot att en fungerande Siri omformulerar företaget som en vinnare inom AI; det negativa scenariot är att det faktum att man betalar en konkurrent för kärnintelligens sätter ett tak för den premie som investerare tilldelar aktien.” Kanske behöver de inte oroa sig, eftersom det vi nu verkar ha är en betydligt mer solid bas från vilken man kan fortsätta att utveckla AI-tjänster och verktyg som konkurrerar med andra inom området. ...

Omnämnda platser: Messages. Omnämnda personer: Google Gemini, Googles LLM:er, Levde Apple.

Vem är vinnaren i det nya avtalet mellan Microsoft och Open AI?

Ett nytt avtal efter mycket bitterhet Kom ihåg att detta nya avtal inte uppstod ur tomma intet. Det är ett direkt resultat av Microsofts hot i mars om att stämma Open AI när de tecknade ett avtal värt 50 miljarder dollar med Amazon, vilket gör det senare

Sammanhang: ...Företagen har inte avslöjat vad denna gräns är. Taket är avgörande för Open AI, eftersom investerare kommer att vara mer benägna att köpa Open AI-aktier om företagets långsiktiga lönsamhet inte tyngs av betalningar till Microsoft....

Omnämnda platser: Microsofts. Omnämnda personer: Google Cloud.

Företagen har fortfarande de små AI-vinsterna i fokus

– AI för kostnadseffektivitet höjer bottennivån, men vad spelar det för roll? Om det bara handlar om effektivitet kommer du inte att vinna mer än kortsiktiga vinster. Om man jämför kostnadsbesparingar med effektivitet kan vi växa utan att personalstyrkanökar

Sammanhang: ...Dessutom kräver övergången från inkrementella till väsentliga vinster som drivs av AI att någon eller något tvingar fram en förändring, till exempel en vd, en aktivistisk investerare eller en konkurrenschock, tillägger han. Cio:er kan sällan driva förändringen på egen hand. Vissa organisationer har dock gått vidare från produktivitetsbesparingar eftersom de inte syns i resultaträkningen, säger Prommer...

Omnämnda personer: Thomas Prommer, Forresters Hopkins, Mike Flynn.