Apránként tanul, és felnőve képes lehet kísérleteket tervezni, adatokat elemezni és eldönteni, hogy publikálható-e egy tudományos cikk vagy sem: ChatGPT, a mesterséges intelligencia (AI) alkalmazása, amely képes emberekkel, emberekkel társalogni , szintén sokat tanul a tudósoktól, de könnyen téved.
Erre utal a Nature folyóirat honlapján közzétett elemzés, amelyből az is kiderül, hogy éppen itt az ideje, hogy megtaláljuk azokat a szabályokat, amelyek segítségével a lehető legtöbbet hozzuk ki a benne rejlő lehetőségeket, megelőzve, hogy a hibák aláássák azokat az elveket, amelyek mindig is irányította a tudományos kutatást.
A kaliforniai OpenAI cég által 2022 végén megjelent és szabadon hozzáférhető ChatGPT gyorsan népszerűvé vált a kutatók körében is, fejlesztése pedig – írja a Nature – már egyértelműen megállíthatatlan.
„Úgy gondoljuk, hogy ennek a technológiának a használata elkerülhetetlen. Ezért elengedhetetlen, hogy a tudományos közösség vitát kezdeményezzen a következményekről.”
Egyes tudósok a ChatGPT segítségével beszédeket írnak, összefoglalják az olvasott cikkeket, jegyzeteket készítenek kísérleteikről vagy számítógépes programokat írnak. Ez azt jelenti, hogy az ehhez hasonló, chatbotoknak nevezett programok minden nap meg vannak töltve olyan adatokkal és információkkal, amelyek lehetővé teszik számukra a tanulást és a fejlődést. A Nature ugyanis megjegyzi, hogy „hamarosan ez a technológia odáig fog fejlődni, hogy képes lesz kísérleteket tervezni, kéziratokat írni és kiegészíteni, szakértői értékeléseket végezni, és támogatni a kéziratok elfogadására vagy elutasítására vonatkozó szerkesztői döntéseket”. A sarkon valódi forradalom jöhet a kutatásban és az innováció felgyorsulása, de olyan hibák is előfordulhatnak, amelyek rontja a kutatás minőségét és átláthatóságát, és gyökeresen megváltoztatja emberi kutatói autonómiánkat”.
Létrehozhatnak például látszólag meggyőző, de téves tartalmú szövegeket, egészen tudományos tények eltorzításáig és dezinformáció terjesztéséig.
Az első azt írja elő, hogy a chatbot által produkált bármely eredményt emberi ellenőrzésnek vetnek alá, mindenekelőtt annak a nagy fejlődésnek a fényében, amelyet ezek a programok fejlődésük során elérnek, amíg a keresőmotorok új generációját nem állítják elő, amely képes egyre részletesebb válaszokat adni, de nem feltétlenül érvényes. A második szabály megköveteli, hogy ezeket a programokat felelősségteljesen és átláthatóan használják, például minden alkalommal jelezve, hogy melyik chatbotot használták szabadalomra méltó eredmény, dokumentum vagy találmány előállításához. Harmadszor, az átláthatóság a chatbotok tulajdonjogában is elengedhetetlen, és a Nature szerint fokozni kell az erőfeszítéseket, hogy azok a többség számára szabadon hozzáférhetőek legyenek.
