OpenAI:s chefsforskare vill se långsammare AI-utveckling

OpenAI:s chefsforskare Jakub Pachocki vill se en långsammare utveckling av artificiell intelligens i hela branschen. Han säger att forskare behöver förstå maskinintelligens och dess risker bättre.

I ett inlägg på OpenAI:s webbplats sade Pachocki att AI-system innebär tydliga nya faror för datasäkerheten. Han varnade också för att ingen är beredd på konsekvenserna av en fortsatt snabb ökning av maskinintelligensen. Uttalandet kom några dagar efter lanseringen av GPT-6 Astra och medan OpenAI arbetar med en automatiserad forskningsassistent och rekursiv självförbättring.

Pachocki beskrev AI baserad på djupinlärning som till stor del en experimentell vetenskap. Han sade att maskinintelligensen börjar överträffa människans förmågor på omvälvande sätt. Han kopplade AI-utvecklingen till ökad beräkningskraft och konstaterade att nya algoritmer har förbättrat systemen samtidigt som jakten på mer kraft har fortsatt.

Hans förslag är att stärka anpassning och övervakning, hålla människor delaktiga och samordna en inbromsning när det behövs för att skapa förtroende för dessa åtgärder. Han förespråkar i slutändan en kombination av metoderna. Förslaget lämnar frågan öppen om branschen kommer att acceptera en lägre takt medan den bedömer AI:s potential och risker.