A mesterséges intelligencián (AI) alapuló eszközöket is egyre többen használják, de kevesen gondolkodnak el azon, mi rejtőzhet a gépi agy mélyén. Varga Dániel programozó matematikus, a HUN-REN Rényi Alfréd Matematikai Kutatóintézet mesterséges intelligenciával foglalkozó kutatási osztályán dolgozik, és munkatársaival a AI működését szeretnék megérteni.
„Amikor sok évtizede a kutatók először próbálkoztak intelligens gépek megalkotásával, az volt az elképzelésük, hogy bár az emberi agy rendkívül összetett rendszer, és a tudomány számára még hosszú időbe telik majd a megértése, ha mi magunk hozunk létre egy intelligens gépet, annak működése teljes mértékben átlátható lesz a tudomány számára. Azonban ma, amikor valóban sikerült ilyen rendszereket megalkotni, és egyre több dologban bízzuk rájuk magunkat, ennek éppen az ellenkezőjét tapasztaljuk: ezeknek a rendszereknek a működését az alkotói sem értik igazán” – magyarázza Varga Dániel, és probléma érzékeltetésre meglepő példát is hoz:
„Az amerikai Anthropic cég kutatócsoportja felderítette, hogy vannak olyan mesterséges agysejtcsoportok, amelyek akkor jeleznek, ha a beszélgetésben motívumként felbukkan egy bizonyos kifejezés. Sikerült azonosítaniuk például azt a területet az AI-nál, amelyik a San Francisco-i Golden Gate hídra reagál. De a kutatók nemcsak megtalálták ezt a területet, hanem be is tudtak avatkozni: mesterségesen ráerősíteni ennek a csoportnak a munkájára, mintha az embernek egy elektródát vezetnének az agyába, és azzal ingerelnének egy bizonyos pontot. A beavatkozás hatására a csevegőrobot kedvenc témája a Golden Gate híd lett, bármiről kérdezték, mindenáron arra terelte a szót. A magyar kutatók teljesen más oldalról közelítenek. „Úgy fogalmaztam meg, hogy amit csinálunk, az agysebészet mesterséges neuronhálókon. Kicsit Frankenstein kísérleteihez hasonlít. Azt tudjuk, hogy az emberi agyat ketté lehet vágni úgy, hogy a jobb és a bal agyfélteke működőképes marad. Mi ezt végezzük el mesterséges agyakon..."
A Népszava teljes cikke itt olvasható, a szerző Kuklai Katalin.