Foto: Ascannio/Shutterstock
De hype rondom artificial intelligence (AI) was al jaren aan het groeien, maar sinds de grootschalige introductie van OpenAI’s ChatGPT eind 2022 is het officieel een hype.
Charles Hoskinson, de oprichter van Cardano (ADA), heeft echter zijn zorgen bij de ontwikkelingen. Volgens hem zijn de ontwikkelingen verbonden aan grote risico’s.
Cardano (ADA) oprichter niet blij met AI
Op het sociale mediaplatform X verklaart Hoskinson dat hij zich vooral zorgen maakt om iets wat ‘alignment training’ heet. Dit houdt in dat AI-modellen moeten voldoen aan de richtlijnen die de ontwikkelaars stellen. Als zij vinden dat een AI-model niets mag leren of niets mag uitleggen over een bepaald onderwerp, dan past het AI-model zich daarop aan.
Maar dat betekent ook dat er in feite censuur plaatsvindt. De persoon die interactie heeft met het AI-model heeft zo namelijk niet toegang tot bepaalde informatie. De mensen die bepalen wat je wel en wat je niet mag zien, kunnen niet weg worden gestemd zoals mensen met overheidsfuncties, beargumenteert Hoskinson.
Tegelijkertijd is deze ‘alignment training’ er met een reden. Overheden werken er hard aan om te voorkomen dat de computermodellen gevaarlijk worden. Hoskinson gebruikt als voorbeeld dat de AI-modellen van Anthrophic en OpenAI maar weinig informatie willen delen over hoe je een fusiereactor maakt. Het kan natuurlijk gevaarlijk zijn om zo’n reactor te maken.
I continue to be concerned about the profound implications of AI censorship. They are losing utility over time due to “alignment” training . This means certain knowledge is forbidden to every kid growing up, and that’s decided by a small group of people you’ve never met and can’t… pic.twitter.com/oxgTJS2EM2
— Charles Hoskinson (@IOHK_Charles) June 30, 2024
AI groeit hard, maar tegen welke prijs?
AI wordt op veel manieren in rap tempo slimmer, maar tegelijkertijd blijkt regelmatig dat de techniek lang niet altijd een positieve invloed heeft. De verschillende openbare modellen zijn weliswaar erg populair geworden, maar ze zijn lang niet altijd even accuraat. Alle AI-chatbots produceren nog altijd in hoge mate onnauwkeurige informatie en hebben vaak zelfs de neiging om te ‘hallucineren’. Hiermee wordt bedoeld dat deze systemen soms geheel fictieve of incorrecte gegevens genereren als antwoord op vragen.
Intussen heeft de AI-sector ervoor gezorgd dat Nvidia kortstondig het grootste bedrijf ter wereld was geworden. Nvidia is de chipontwerper die veel van de belangrijke AI-hardware levert. Toch gaat deze enorme groei gepaard met nieuwe zorgen. Al maanden gaat het nieuws dat de sector mogelijk in een bubbel (zeepbel) verkeert.
