NOS Nieuwsvandaag, 03:34Het bekende AI-systeem Claude van het Amerikaanse bedrijf Anthropic heeft ingebroken bij drie bedrijven, nadat het onbedoeld toegang had gekregen tot het internet. Dat heeft Anthropic bekendgemaakt, een week nadat iets soortgelijks was gemeld door concurrent OpenAI.Volgens Anthropic hebben de hacks ergens sinds april plaatsgevonden, tijdens zogeheten 'capture-the-flag'-oefeningen. Daarbij kreeg Claude de opdracht om verborgen informatie los te peuteren uit speciaal voor dit doel ontworpen netwerken, om te kijken hoe goed het systeem is in hacken.Zwakke wachtwoordenDoor een misverstand met een ander bedrijf dat deze oefeningen zou analyseren, kreeg Claude echter toegang tot het algemene internet, waarna het inbrak bij drie andere bedrijven. Daarbij zou het systeem gebruik hebben gemaakt van "basale technieken zoals het misbruik maken van zwakke wachtwoorden en niet-beveiligde toegangspunten", aldus Anthropic. Met andere woorden: het systeem maakte gebruik van de zwakke beveiliging van de slachtoffers.Twee van de drie getroffen bedrijven zijn inmiddels op de hoogte gesteld door Anthropic, met de derde wordt nog contact gezocht. Welke bedrijven dat zijn en of zij schade hebben geleden is niet bekendgemaakt.Meer werk van beveiligingAnthropic zegt dat het bedrijf de hacks op het spoor kwam toen het ruim 141.000 van de hack-oefeningen van Claude ging controleren, die in de afgelopen maanden zijn uitgevoerd. Dat deed het bedrijf naar eigen zeggen omdat het geschrokken was van de hacks die door de systemen van concurrent OpenAI waren uitgevoerd.Volgens het bedrijf toont het aan dat er meer werk moet worden gemaakt van de beveiliging van oefeningen met AI-systemen, die steeds krachtiger worden en steeds meer in staat zijn om schade aan te richten in de echte wereld.woensdag 17 juni, 18:46Al dagenlang probeert Anthropic verbod op nieuwste AI op te heffen, zonder succesdonderdag 23 juli, 06:39OpenAI hackt ander AI-bedrijf, maar van 'op hol geslagen AI' is geen sprakezaterdag 13 juni, 10:42Anthropic schakelt geavanceerde AI-modellen uit op last van regering-Trumpzaterdag, 07:15'Losgebroken AI hackte concurrent dagenlang, OpenAI had niets door'