AndrásA mesterséges intelligencia egyik úttörője nagy feltűnést keltő módon távozott. Geoffrey Hinton, akit a „mesterséges intelligencia keresztapjának” is neveznek, a The New York Timesnak elmondta, hogy áprilisban lemondott a Google alelnöki és mérnöki posztjáról, hogy szabadon figyelmeztessen a technológiával kapcsolatos kockázatokra. A kutató aggódik amiatt, hogy a Google feladja a korábbi visszafogottságát a nyilvános AI-kiadásokkal kapcsolatban, hogy a ChatGPT, a Bing Chat és hasonló modellekkel versenyre keljen, és ezzel több etikai probléma előtt nyitja meg a kaput.
Hinton rövid távon attól tart, hogy a generatív mesterséges intelligencia a félretájékoztatás hullámához vezethet. Lehet, hogy „már nem lehet tudni, mi az igazság” – mondja. Aggódik amiatt is, hogy ez nem csak a „fáradságos munkát” szüntetheti meg, hanem egyenesen helyettesíthet bizonyos munkaköröket. A jövőre nézve a tudós aggódik mind a teljesen autonóm fegyverek lehetősége miatt, mind pedig amiatt, hogy az AI-modellek hajlamosak furcsa viselkedést tanulni a képzési adatokból. Bár e problémák egy része elméleti jellegű, Hinton attól tart, hogy az eszkalálódást nem lehet szabályozások vagy hatékony ellenőrzések kidolgozása nélkül megfékezni.
Hinton szerint álláspontja tavaly kezdett megváltozni, amikor a Google, az OpenAI és mások olyan mesterséges intelligencia rendszereket kezdtek el létrehozni, amelyek szerinte néha felülmúlják az emberi intelligenciát. Az AI csak az elmúlt öt évben rohamosan fejlődött – a kutató szerint „ijesztő”, hogy mi történhet a következő öt évben.
Az Engadgetnek adott nyilatkozatában Jeff Dean, a Google vezető kutatója azt mondja, hogy cége továbbra is elkötelezett a „felelős megközelítés” mellett, és résen van a „felmerülő kockázatok” miatt. A keresőóriás nemrég, márciusban adta ki Bard chatbotjának egy durva változatát, miután hónapok óta pletykáltak arról, hogy a vállalat aggódik a generatív mesterséges intelligencia jelentette versenyfenyegetés miatt. Ezt megelőzően nem volt hajlandó nyilvánosan kiadni az olyan AI-modelleket, mint a művészetorientált Imagen, a mérgező tartalmak és a szerzői jogok megsértésének lehetősége miatt.
Forrás: EnGadget
