Een groot probleem waarmee kunstmatige intelligentie wordt geconfronteerd, is de interactie tussen het geheugen van een computer en de verwerkingsmogelijkheden ervan. Wanneer een algoritme in werking is, stromen gegevens snel tussen deze twee componenten. AI-modellen zijn echter afhankelijk van een enorme hoeveelheid gegevens, wat een knelpunt creëert.
A nieuwe studiemaandag gepubliceerd in het tijdschrift Frontiers in Science door Purdue University en het Georgia Institute of Technology, suggereert een nieuwe benadering voor het bouwen van computerarchitectuur voor AI-modellen met behulp van door de hersenen geïnspireerde algoritmen. De onderzoekers zeggen dat het creëren van algoritmen op deze manier de energiekosten die gepaard gaan met AI-modellen zou kunnen verlagen.
“Taalverwerkingsmodellen zijn de afgelopen vier jaar 5.000 keer zo groot geworden”, zegt Kaushik Roy, hoogleraar computertechniek aan de Purdue University en hoofdauteur van het onderzoek. in een verklaring. “Deze alarmerend snelle uitbreiding maakt het cruciaal dat AI zo efficiënt mogelijk is. Dat betekent dat we fundamenteel moeten heroverwegen hoe computers worden ontworpen.”
Mis geen enkele van onze onpartijdige technische inhoud en laboratoriumbeoordelingen. CNET toevoegen als favoriete Google-bron. Mis geen enkele van onze onpartijdige technische inhoud en laboratoriumbeoordelingen. CNET toevoegen als favoriete Google-bron.
De meeste computers van tegenwoordig zijn gemodelleerd naar een idee uit 1945, de von Neumann-architectuur, die verwerking en geheugen scheidt. Dit is waar de vertraging optreedt. Naarmate meer mensen over de hele wereld data-hongerige AI-modellen gebruiken, zou het onderscheid tussen de verwerkings- en geheugencapaciteit van een computer een belangrijker probleem kunnen worden.
Onderzoekers van IBM wezen op dit probleem in een bericht eerder dit jaar. Het probleem waar computeringenieurs tegenaan lopen, wordt de ‘geheugenmuur’ genoemd.
Het doorbreken van de geheugenmuur
De geheugen muur verwijst naar de ongelijkheid tussen geheugen- en verwerkingsmogelijkheden. In wezen heeft het computergeheugen moeite om de verwerkingssnelheid bij te houden. Dit is geen nieuwe kwestie. Een paar onderzoekers van de Universiteit van Virginia heeft de term bedacht terug in de jaren negentig.
Maar nu AI de boventoon voert, zuigt het geheugenmuurprobleem tijd en energie op in de onderliggende computers die ervoor zorgen dat AI-modellen werken. De onderzoekers van het artikel beweren dat we een nieuwe computerarchitectuur zouden kunnen proberen die geheugen en verwerking integreert.
Geïnspireerd door de manier waarop onze hersenen functioneren, staan de AI-algoritmen waarnaar in het artikel wordt verwezen bekend als neurale netwerken versterken. Een veelgehoorde kritiek op deze algoritmen in het verleden is dat ze traag en onnauwkeurig kunnen zijn. Sommige computerwetenschappers beweren echter dat deze algoritmen hebben aanzienlijke verbetering laten zien de afgelopen jaren.
De onderzoekers suggereren dat AI-modellen een concept moeten gebruiken dat verband houdt met SNN’s, bekend als berekenen in geheugen. Dit concept is nog relatief nieuw op het gebied van AI.
“CIM biedt een veelbelovende oplossing voor het geheugenmuurprobleem door computermogelijkheden rechtstreeks in het geheugensysteem te integreren”, schrijven de auteurs in de samenvatting van het artikel.
Medische apparatuur, transport en drones zijn enkele gebieden waarop onderzoekers denken dat er verbeteringen kunnen worden aangebracht als computerverwerking en geheugen in één systeem zouden worden geïntegreerd.
“AI is een van de meest transformerende technologieën van de 21e eeuw. Om het echter uit datacenters naar de echte wereld te verplaatsen, moeten we het energieverbruik ervan drastisch verminderen”, zegt Tanvi Sharma, co-auteur en onderzoeker aan de Purdue University, in een verklaring.
“Met minder gegevensoverdracht en efficiëntere verwerking kan AI passen in kleine, betaalbare apparaten met batterijen die langer meegaan”, aldus Sharma.
