Nvidia overweegt klanten te weren die gevaarlijke AI bouwen

Nvidia laat de mogelijkheid open om geen hardware meer te leveren aan afnemers die gevaarlijke AI-systemen bouwen. Dat heeft topman Jensen Huang gezegd tijdens een bezoek aan Londen, zo meldt Bloomberg. Huang benadrukte wel dat het om een theoretisch scenario gaat dat zich tot dusver niet heeft voorgedaan.

Volgens de ceo zou een dergelijke stap pas volgen na een rechtstreeks gesprek met de betrokken klant. Hij wees erop dat Nvidia vooral algemeen inzetbare hulpmiddelen levert en geen zicht heeft op wat afnemers daarmee precies doen.

Strengere verkoopcontroles zijn geen nieuw idee

Het idee dat Nvidia zijn verkoopkanalen kan inperken, is niet louter theorie. Het bedrijf voerde eerder al een streng controleproces in voor kopers in Japan, Maleisië en Singapore. Die screening had tot gevolg dat meer dan de helft van de bestaande afnemers in die landen niet langer voor aankoop in aanmerking kwam.

Daarmee toont Nvidia dat het bereid is om omzet op te geven wanneer verificatie niet rond raakt. De maatregel past in een bredere trend waarbij leveranciers van AI-chips strenger kijken naar wie hun producten uiteindelijk in handen krijgt.

Huang ziet veiligheid als technisch probleem, niet als juridisch probleem

De bezorgdheid over de risico's van AI is wijdverspreid, maar Huang beschouwt die risico's als hindernissen die te beheersen vallen. Zijn oplossing ligt volgens hem niet in het opleggen van beperkende wetgeving, maar in het verder ontwikkelen van de technologie zelf. AI-systemen kunnen andere AI-systemen in het oog houden en bijsturen, wat de veiligheid ten goede zou komen.

Om dat waar te maken richtte Nvidia een aparte veiligheidsafdeling op. Die beoordeelt AI-agenten nog voor ze op de markt komen. Vertrouwen is in de visie van Huang een noodzakelijke voorwaarde om het gebruik van zulke tools te laten groeien.

Die houding spoort met de commerciële belangen van het bedrijf: hoe breder AI-agenten worden aanvaard, hoe groter de vraag naar de hardware die ze aandrijft. Huang pleitte eerder al voor snelle innovatie en stelde tijdens een Dreamforce-evenement dat ondernemingen vaart moeten maken en de ontwikkeling alleen mogen stilzetten wanneer een concreet product gevaarlijk blijkt.

Miljarden aan rekenkracht voor veiligheidsonderzoek in Europa

Nvidia investeert ook in Europees veiligheidsonderzoek. Het bedrijf stelt 250 miljoen dollar, omgerekend ongeveer 222 miljoen euro, aan rekenkracht ter beschikking in plaats van cash geld. Dat moet onderzoek naar de beheersing van AI-agenten ondersteunen, met instellingen als University College London en Oxford als betrokken partners.

Huang staat daarmee tegenover Dario Amodei, die een wereldwijde vertraging en gezamenlijke industriestandaarden bepleit. Ook andere spelers in de sector leggen andere accenten: een leidinggevende van Anthropic waarschuwde voor de gevaren die open source-modellen met zich meebrengen, terwijl de financieel directeur van OpenAI wees op cyberbeveiligingsrisico's in verband met Chinese AI.

De discussie raakt aan een bredere vraag: in hoeverre mag een leverancier van de onderliggende infrastructuur bepalen welke toepassingen wel en niet worden gebouwd? Nvidia levert de bouwstenen voor vrijwel alle grote AI-projecten, wat het bedrijf een uitzonderlijke positie geeft. Tegelijk blijft het antwoord van Huang voorlopig voorwaardelijk: een leverstop behoort tot de mogelijkheden, maar is geen aangekondigd beleid.