Hopfield en Hinton trainden neurale netwerken met behulp van de natuurkunde en krijgen er de Nobelprijs voor

08 oktober 2024 door een van onze redacteuren
Hopfield en Hinton trainden neurale netwerken met behulp van de natuurkunde en krijgen er de Nobelprijs voor
Het poppetje is een 'gedachte' van het neurale netwerk. Bld. Johan Jarnestad -The Royal Swedish Academy of Sciences

Machine learning is al lang belangrijk voor onderzoek, inclusief het sorteren en analyseren van grote hoeveelheden data. John Hopfield en Geoffrey Hinton gebruikten hulpmiddelen uit de natuurkunde om methoden te construeren die hielpen de basis te leggen voor het krachtige machine learning van vandaag. Machine learning op basis van kunstmatige neurale netwerken zorgt momenteel voor een revolutie in wetenschap, techniek en het dagelijks leven.

Machine learning is een toepassing van  Artificiële Intelligentie. Dit is het proces waarbij wiskundige gegevensmodellen worden gebruikt om een computer te helpen leren zonder directe instructies. Hierdoor kan een computersysteem zelfstandig blijven leren en zichzelf verbeteren, op basis van ervaringen. Eén manier om een computer te trainen om het menselijke redeneren te simuleren, is het gebruik van een neuraal netwerk. Dit is een reeks algoritmen die zijn gemodelleerd naar de menselijke hersenen.​


Associatief geheugen

De twee Nobelprijswinnaars voor de natuurkunde van dit jaar hebben hulpmiddelen uit de natuurkunde gebruikt om methoden te ontwikkelen die de basis vormen voor het krachtige machine learning van vandaag. John Hopfield creëerde een associatief geheugen dat afbeeldingen en andere soorten patronen in data kan opslaan en reconstrueren. Geoffrey Hinton bedacht een methode die autonoom eigenschappen in data kan vinden en zo taken kan uitvoeren zoals het identificeren van specifieke elementen in afbeeldingen.

Knooppunten

Als we het over kunstmatige intelligentie hebben, bedoelen we vaak machine learning met behulp van kunstmatige neurale netwerken. Deze technologie is oorspronkelijk geïnspireerd op de structuur van de hersenen. In een kunstmatig neuraal netwerk worden de neuronen van de hersenen gerepresenteerd door knooppunten met verschillende waarden. Deze knooppunten beïnvloeden elkaar via verbindingen die kunnen worden vergeleken met synapsen en die sterker of zwakker kunnen worden gemaakt. Het netwerk wordt getraind, bijvoorbeeld door sterkere verbindingen te ontwikkelen tussen knooppunten met gelijktijdig hoge waarden. De laureaten van dit jaar hebben vanaf de jaren 80 belangrijk werk verricht met kunstmatige neurale netwerken.

Atomaire spin

John Hopfield bedacht een netwerk dat een methode gebruikt voor het opslaan en opnieuw creëren van patronen. We kunnen ons de knooppunten voorstellen als pixels. Het Hopfield-netwerk maakt gebruik van fysica die de kenmerken van een materiaal beschrijft vanwege zijn atomaire spin – een eigenschap die elk atoom tot een kleine magneet maakt. Het netwerk als geheel wordt beschreven op een manier die gelijkwaardig is aan de energie in het spinsysteem dat in de fysica wordt aangetroffen, en wordt getraind door waarden te vinden voor de verbindingen tussen de knooppunten, zodat de opgeslagen afbeeldingen een lage energie hebben.

Wanneer het Hopfield-netwerk een vervormd of onvolledig beeld krijgt, werkt het methodisch door de knooppunten heen en werkt hun waarden bij, zodat de energie van het netwerk daalt. Het netwerk werkt dus stapsgewijs om het opgeslagen beeld te vinden dat het meest lijkt op het onvolmaakte beeld waarmee het werd gevoed.
Geoffrey Hinton gebruikte het Hopfield-netwerk als basis voor een nieuw netwerk dat een andere methode gebruikt: de Boltzmann-machine. Deze kan leren karakteristieke elementen te herkennen in een bepaald type gegevens.

​"Het werk van de laureaten is al van het grootste nut geweest. In de natuurkunde gebruiken we kunstmatige neurale netwerken op een groot aantal gebieden, zoals het ontwikkelen van nieuwe materialen met specifieke eigenschappen", zegt Ellen Moons, voorzitter van het Nobelcomité voor natuurkunde.​

Hinton gebruikte hulpmiddelen uit de statistische fysica, de wetenschap van systemen die zijn opgebouwd uit veel vergelijkbare componenten. De machine wordt getraind door hem voorbeelden te geven die zeer waarschijnlijk zullen ontstaan ​​wanneer de machine wordt aangestuurd. De Boltzmann-machine kan worden gebruikt om afbeeldingen te classificeren of nieuwe voorbeelden te maken van het type patroon waarop het is getraind. Hinton heeft voortgebouwd op dit werk en heeft geholpen bij het initiëren van de huidige explosieve ontwikkeling van machinaal leren.

De laureaten en Hopfield en Hinton  Bld. N. Elmehed / Nobel Prize Outreach

Meer over:
Cookies

Deze website gebruikt noodzakelijke cookies voor een correcte werking en analytische cookies (geanonimiseerd) om de statistieken van de website bij te houden. Marketing cookies zijn nodig voor laden van externe content, zoals YouTube-video's of widgets van Sociale Media. Zie ons cookiebeleid voor meer informatie, of om je instellingen later aan te passen.