Nagroda Nobla 2024 z fizyki: John J. Hopfield i Geoffrey E. Hinton za odkrycia i wynalazki związane ze sztucznymi sieciami neuronowymi

Ta nagroda może być zaskoczeniem – uhonorowane zostały prace interdyscyplinarne, w których udział fizyki nie jest oczywisty.

Historia sztucznych sieci neuronowych sięga lat 40., kiedy badacze zaczęli interesować się matematycznymi regułami pracy neuronów biologicznych. Kiedy neurobiolog Donald Hebb zaproponował hipotezę, że sygnały neuronalne wzmacniają się, kiedy komórki są połączone i pracują razem, prace posunęły się znacząco naprzód. Zrozumiawszy podstawy działania sieci neuronowych, badacze zaczęli rozmyślać nad stworzeniem ich sztucznego odpowiednika.

Na kolejny istotny postęp trzeba było jednak czekać kilka dekad. W latach 80. Pewien fizyk przeprowadził się z Princeton University do Caltechu w południowej Kalifornii. Jego szerokie zainteresowania naukowe umożliwiły mu objęcie stanowiska profesora chemii i biologii na kalifornijskiej uczelni. Tam też zaczął on rozwijać swoje pomysły nt. działania sieci neuronowych. Swoją wiedzę o magnetyzmie i działaniu spinu w atomach wykorzystał do opisu oddziaływań między pojedynczymi neuronami, tworząc teorię „sieci Hopfielda”.

Praca Johna Hopfielda wpadła w ręce drugiemu bohaterowi dzisiejszego dnia, Geoffreyowi Hintonowi, który w tamtym czasie pracował na University of Pittsburgh i zajmował się psychologią i sztuczną inteligencją. Po jej przeczytaniu postanowił rozwinąć ideę jego sieci w coś większego, używając do tego fizyki statystycznej, w szczególności pewnego równania Ludwiga Boltzmana – stąd praca Hintona stała się znana jako „maszyna Boltzmana”.

Działa ona poprzez dwie grupy węzłów: widoczne, do których wprowadzane są dane, oraz ukryte, które wpływają na ogólną energię sieci. Aktualizacja wartości węzłów odbywa się według określonych reguł, aż maszyna osiągnie stan, w którym wzorce w węzłach mogą się zmieniać, ale właściwości całej sieci pozostają stabilne. Każdy wzorzec ma przypisaną prawdopodobieństwo, zależne od energii sieci, co pozwala generować nowe wzorce. Maszyna Boltzmanna uczy się na przykładach, poprzez dostosowywanie połączeń między węzłami, aby wzorce podane na etapie treningu miały najwyższe prawdopodobieństwo wystąpienia. Po treningu maszyna może rozpoznawać podobne wzorce w nowych danych, nawet jeśli nie widziała ich wcześniej.

Maszyna Boltzmana okazała się niezwykle wydajna w programowaniu złożonych systemów informatycznych. Stała się podstawą uczenia maszynowego, które dało nam jedną z najważniejszych rewolucji technologicznych w XXI w. Było też istotnym elementem w wielu innych, najważniejszych przedsięwzięciach naukowych ostatnich lat, spośród których wiele zostało również uhonorowanych Nagrodą Nobla.

W tym roku Szwedzka Akademia postanowiła więc nagrodzić dwóch badaczy, którzy położyli podwaliny pod to potężne, wszechstronne narzędzie. Kto wie, ile jeszcze przełomów zostanie dzięki ich pracy dokonanych.

O laureatach

John Hopfield (Princeton University) wynalazł sieć, która wykorzystuje metodę zapisywania i odtwarzania wzorców. Możemy sobie wyobrazić węzły jako piksele. Sieć Hopfielda wykorzystuje fizykę, która opisuje charakterystykę materiału ze względu na jego spin atomowy - właściwość, która sprawia, że każdy atom jest maleńkim magnesem. Sieć jako całość jest opisana w sposób równoważny energii w systemie spinowym występującym w fizyce i jest trenowana poprzez znajdowanie wartości dla połączeń między węzłami, tak aby zapisane obrazy miały niską energię. Gdy sieć Hopfield jest zasilana zniekształconym lub niekompletnym obrazem, metodycznie przechodzi przez węzły i aktualizuje ich wartości, aby energia sieci spadła. W ten sposób sieć działa stopniowo, aby znaleźć zapisany obraz, który jest najbardziej podobny do niedoskonałego obrazu, którym została zasilona.

Geoffrey Hinton (University of Toronto) wykorzystał sieć Hopfielda jako podstawę dla nowej sieci, która wykorzystuje inną metodę: maszynę Boltzmanna. Może ona nauczyć się rozpoznawać charakterystyczne elementy w danym typie danych. Hinton wykorzystał narzędzia z fizyki statystycznej, nauki o systemach zbudowanych z wielu podobnych komponentów. Maszyna jest szkolona poprzez podawanie jej przykładów, które z dużym prawdopodobieństwem pojawią się, gdy maszyna zostanie uruchomiona. Maszyna Boltzmanna może być używana do klasyfikowania obrazów lub tworzenia nowych przykładów typu wzorca, na którym została przeszkolona. Hinton oparł się na tej pracy, pomagając zapoczątkować obecny gwałtowny rozwój uczenia maszynowego.