Goedemorgen,
Tien dagen na de ophef over de ‘agent’ van OpenAI die uit een testomgeving brak en systemen begon te hacken, heeft het leidende AI-bedrijf Anthropic (van Claude) donderdag in een blogpost bekendgemaakt ook drie gevallen te hebben gevonden waarin hun AI-modellen uit een testomgeving braken, het internet op gingen en vervolgens echte bedrijven hackten.
Het is niet bekend welke bedrijven daarvan het slachtoffer waren. Anthropic vond de voorbeelden toen het intern onderzoek deed naar aanleiding van de ervaringen bij OpenAI. De aantallen in de blogpost zijn het vermelden waard: er werden 141.006 ‘testritten’ met Claude onderzocht, waarbij er dus drie ‘uitbraken’ zijn gevonden. Opvallend daarbij is vooral dat ze pas zijn ontdekt nu er achteraf, naar aanleiding van de hack door de OpenAI-agent, naar is gekeken.
Het is nieuws uit de categorie waar je als belegger vast alle kanten mee op kunt, want het laat zowel de gevaren van AI-ontwikkeling zien als de kracht van de nieuwe modellen.
Wat verder opviel:De Aziatische beurzen lijken te zijn gekalmeerd, na een turbulente week. In Zuid-Korea steeg het aandeel van chipmaker SK Hynix met 25 procent en dat van Samsung met 22 procent. Ze trokken het beursgemiddelde van de KOSPI-beurs mee omhoog. Dit ongetwijfeld tot opluchting van de vele particuliere beleggers in Zuid-Korea, die enkele dagen eerder in de week de waarde van hun aandelen deels zagen verdampen. Lees daarover dit verhaal van Azië-redacteur Wieland van Dijk:
