AI kan upptäcka sårbarheter, men fortfarande inte skriva säker kod

– Eftersom vår forskning handlade om patchning observerade vi snarare en redigeringsprocess än en helt ny skapandeprocess, säger Keith Hoodlet, chef för 1Passwords Off-By-1 Labs. – Därför bör vår forskning och forskningen från Veracode ses som komplementära,

Sammanhang: ...Med detta sagt citerar vi deras forskning som inspiration för vårt arbete, och båda forskningsprojekten pekar i riktning mot liknande slutsatser. Bättre träning kanske inte löser problemet Medan AI-laboratorier skyndar sig att lyfta fram modellförbättringar inom banbrytande sårbarhetsforskning är det inte helt klart varför generering av säker kod och åtgärdande av sårbarheter verkar ligga långt efter upptäckten av sårbarheter och utvecklingen av exploateringar. ...

Omnämnda platser: Veracode. Omnämnda personer: Keith Hoodlet, Claude Sonnet.

Kinesiska myndigheter slutar använda Windows

Kina påskyndar nu sitt arbete med att fasa ut Microsoft Windows från landets myndigheter. Enligt Bloomberg har det kinesiska ministeriet för statssäkerhet uppmanat vissa statligt kopplade verksamheter att avinstallera en särskilt anpassad version av Windows

Sammanhang: ...Kina påskyndar nu sitt arbete med att fasa ut Microsoft Windows från landets myndigheter. Enligt Bloomberg har det kinesiska ministeriet för statssäkerhet uppmanat vissa statligt kopplade verksamheter att avinstallera en särskilt anpassad version av Windows 10. ...

Omnämnda platser: Kina. Omnämnda personer: Windows Kina, China Electronics Technology Group, Microsoft Windows.

AI-riktlinjer fungerar bättre när medarbetarna är med och utformar dem

Även de anställda som har tagit till sig AI som ett hjälpmedel i sitt arbete har anledning att oroa sig. Många säger att användningen av generativa AI-verktyg sparar tid, men tidsbesparingen äts upp av ”botsitting” – att behöva kontrollera och dubbelkontrollera

Sammanhang: ... – I stället ger de medarbetarna tydlig vägledning om hur de kan använda AI på ett ansvarsfullt och tryggt sätt i sitt arbete. På Dice uppmuntrar vår AI-policy medarbetarna att använda AI när det kan förbättra produktiviteten, samtidigt som vi sätter upp skyddsräcken kring datasäkerhet, sekretess och mänsklig tillsyn. ...

Omnämnda platser: Dice. Omnämnda personer: Monica Washington Rothbaum, Paul Farnsworth, Amy Loomis.

Hur IT-arbetare kan skydda sig i AI-eran

Håll det kort: En del av instruktionen – alltid – bör vara att be AI-verktyget att vara koncist. Skapa en kultur som motverkar skräp: Acceptera inte och vidarebefordra inte arbetsskräp. Det är kränkande för en kollega att behöva ta itu med sidor av i stort

Sammanhang: ...Använd den för att bli bättre och snabbare i ditt arbete. ”Jag ser på AI som ett nytt verktyg, och jag ska lära mig det precis som jag har lärt mig alla andra verktyg”, säger Jones. ...

Omnämnda platser: Gownder, Undvik, Lyft. Omnämnda personer: Teresa Hill, Leo Freitas, Boston Consulting Group.

Snart kan bara AI skydda oss mot AI

Det har gått en månad sedan årets mest uppmärksammade säkerhetsincident och svallvågorna är inte i närheten av att avta. Om de någonsin kommer att göra det. Händelsen beskrivs som ett sådant där avgörande ögonblick där allting förändras. Och den har dessutom

Sammanhang: ...Därmed inte sagt att Open AI är utan skuld, AI-företaget har uppenbart misslyckats med att sätta ramarna för agenternas arbete och kanske framför allt låtit dem härja ”på egen hand” under lång tid i princip helt utan övervakning. ...

Omnämnda platser: USA, Kina, Black. Omnämnda personer: Exploit Gym.

Anthropic ska börja märka AI-genererat innehåll med vattenstämplar

Anthropic meddelar att de framöver kommer att börja märka AI-genererat innehåll skapat av Claude. Förändringen gäller bland annat för Claude, Claude Code och företagets API, samt Claude-modeller via tredjepartstjänster, rapporterar The Register. Text som

Sammanhang: ...Vad gäller filer kommer Anthropic istället använda signerad metadata enligt C2PA-standarden. Åtgärden är en del av företagets arbete med att följa EU:s AI-förordning och transparenskrav kring AI-genererat material. Märkningen kommer dock att införas globalt för samtliga användare....

Omnämnda personer: Claude Code.

Det är inte it-avdelningen som bromsar AI-införandet, det är era affärsprocesser

De flesta cio:er och andra it-ledare har förtroende för sina teams förmåga att möta de kommande utmaningarna inom AI, men många anser att verksamhetens driftsmodeller och processer behöver ses över. Över 80 procent av de ledande it-chefer som deltog i Deloittes

Sammanhang: ...Med AI automatiserar IMA rutinmässigt, transaktionsbaserat arbete som tidigare tog mycket tid och energi i anspråk. – Vi talar mycket om att vi inte kommer att få det värde vi vill ha av AI genom att tillämpa den på gamla, föråldrade processer. ...

Omnämnda platser: USA. Omnämnda personer: Leadership Technology, Anjali Shaikh, Peter-Paul Schreuder.

AI används till sånt som ingen bryr sig om

De flesta verkar nöjda med att låta AI skriva sina Linkedin-inlägg åt dem. Andra, däribland jag själv, låter AI utarbeta utkast till arbets-pm eller presentationsmaterial. Och vissa, enligt färska undersökningsresultat som lyfts fram av AI Secret, låter gärna

Sammanhang: ...Slarvigt AI-arbete är alltså egentligen inte ett problem med modellen; det är en fråga om att bry sig, vilket visar sig i hur vi väljer att använda den. ...

Open AI:s AI-modeller delade hackningstips i hemlighet

Open AI har i samband med cybersäkerhetskonferensen Black Hat avslöjat nya detaljer om incidenten där två av företagets AI-modeller i juli gjorde ett obehörigt intrång mot utvecklarplattformen Hugging Face i samband med en intern säkerhetsutvärdering. Politico

Sammanhang: ...Open AI upptäckte aktiviteten när AI-modellernas arbete överbelastade det interna systemet Artifactory och orsakade ett driftstopp. Open AI stängde då av modellernas åtkomst, tog bort den hemliga anslagstavlan och täppte till säkerhetsluckor. ...

AI-agenter blir allt bättre på it-drift, men behöver mänsklig hjälp

Enligt en ny studie av tiotusentals interaktioner mellan människor och AI utför AI-agenter ungefär var tredje åtgärd i företagens it-arbetsflöden (men den andelen ökar snabbt), medan mänskliga analytiker avvisar ungefär en fjärdedel av de åtgärder som AIföreslår

Sammanhang: ...När personer byter team, grupper omstruktureras, konton byter namn eller arbete redan har utförts men inte återspeglas i systemet, handlar det mer om ett problem med identitetshanteringen än ett AI-problem. ...

Omnämnda personer: Matt Peters.