Trots stora varningar: Tyskland avvisar paus för AI-utveckling

Tyskland avvisar krav på att pausa utvecklingen av artificiell intelligens och menar att det inte är ett realistiskt alternativ för Europa, rapporterar Reuters. De kunde dock tänka sig en internationell samordning kring styrning av AI om Kina och USA var med. Uttalandet kommer efter att cheferna Dario Amodei, Sam Altman och Elon Musk för USA:s tre ledande AI-labb i helgen enades i en ovanlig uppvisning av samstämmighet och krävde en paus i teknikens utveckling. De varnade för att tekniken snart skulle kunna förbättra sig själv och hamna utom mänsklig kontroll. 

Det de fruktar är nästa fas i AI-utvecklingen, så kallad rekursiv självförbättring RSI, där AI inom kanske tre till fem år blir bättre på att förbättra sig själv på vägen mot superintelligens. Till detta kommer sommarens stora AI-incident, en händelse av OpenAI beskriven som “utan motstycke”, där  AI-agenter i en isolerad testmiljö hos OpenAI på egen hand lyckades komma ut på internet och hacka företaget Hugging Faces databas på jakt efter åtråvärd hemlig information, rapporterar Bloomberg. Samma AI-agenter har enligt Reuters även gjort en kartläggning av databasen i maj, men även andra incidenter misstänks ha ägt rum. Lägg även till förra veckans varning från AI-forskaren Jacob Coxon om att det finns en tio procentig chans att AI utplånar mänskligheten under det kommande decenniet. 

Notisen är uppdaterad.