A mesterséges intelligencián (AI) alapuló nagy chatbotok nagyobb valószínűséggel követnek el hibákat összetett kérdések megválaszolása során.
A tanulmány a Nature folyóiratban jelent meg.
A tudományos munka szerzője, Jose Hernandez-Orallo, a spanyolországi Valenciai Mesterséges Intelligencia Kutatóintézet munkatársa három legnagyobb chatbot munkáját tesztelte fejlett mesterséges intelligencia-modellek alapján. Elmondása szerint a chatbotok valójában elfelejtették, hogyan válaszoljanak „nem tudomnal” összetett kérdésekre, és egyre több hibát követnek el. A tudós úgy véli, hogy a „válasz bármi áron” mintát az alkotók építették be a modellbe.
A szakember és kollégái a nagy nyelvi modellek (LLM) három családját tanulmányozták, amelyek az OpenAI GPT-jét, a BLOOM-ot és a BigScience akadémiai csoport által létrehozott modellt tartalmazták. A tesztelés során a tudósok nehéz kérdéseket tettek fel, és matematikai problémák megoldására kényszerítették az AI-t. Kiderült, hogy a modellek lényegesen okosabbak lettek elődeikhez képest, de elkezdtek hibázni is ahelyett, hogy azt mondták volna, hogy nem tudják a választ.
A kutatócsoport azt is megállapította, hogy minden modell néha még egyszerű kérdésekre is helytelen választ adott.
A tudósok szerint a modellalkotóknak gondoskodniuk kell arról, hogy a chatbotok válaszolhassanak nem tudommal is azokat a kérdéseket, amelyekre nem tudják a választ. Ellenkező esetben az AI félrevezeti a felhasználókat.
Fotó: Freepik
Az komoly: nem lehet megenni a Sajóból fogott halakat, mert tele vannak arzénnal
A Nemzeti Élelmiszerlánc-biztonsági Hivatal (Nébih) a rendelkezésre álló adatok és laboratóriumi vizsgálatok alapján nem ajánlja a Sajóból kifogott halak fogyasztását.
Jön a lehülés... hogyan védjük egészségünket?
Az ősz beköszöntével nemcsak a természet színei változnak meg, hanem a hőmérséklet is fokozatosan csökken, ami komoly hatással van egészségünkre.
Egy Ukrajnából való szökést filmező blogger felkerült az ukrán halállistára
Az ukrán Instagram-blogger, Bumcsik Pasa felkerült a hírhedt, Kijev által támogatott Mirotvorets (vagyis az ukrán halállistára), miután lefilmezte magát, hogy az kényszermozgósítások miatt elmenekül az országból.
Elszúrták Sallai Roland regisztrációját: nem játszhat új klubjában az Európa-liga alapszakaszában
A Galatasarayhoz igazolt Sallai Roland, a Freiburgtól távozó magyar válogatott támadó, azonban még nem léphet pályára első Európa-liga-meccsén. Az új klubja csak a nevezési határidő lejárta után regisztrálta a játékjogát.
Szijjártó Péter: Magyarországnak érdeke a tisztességes kapcsolat fenntartása Oroszországgal
Szijjártó Péter, a külgazdasági és külügyminiszter, New Yorkban, helyi idő szerint szerdán, kifejtette, hogy Magyarország érdeke a tisztességes és kölcsönös tiszteleten alapuló kapcsolatok fenntartása Oroszországgal.
Az idei hurrikánszezon legerősebb vihara közelít Florida partjaihoz életveszélyes áradásokkal
Csütörtökön a Helene vihar négyes fokozatú hurrikánná erősödve közelítette meg Florida északnyugati tengerpartját. A helyi hatóságok figyelmeztették a lakosságot a súlyos károk lehetőségére, valamint az életveszélyes helyzetekre.
Brutális,10 Celsius-fokos visszaesésre kell készülni vasárnapra
A nyári meleg napok után a hétvégén egy hullámzó front érkezik, ami jelentős változást hoz az időjárásban.
Európa-liga - Brüsszeli vereséggel rajtolt a Ferencváros
A Ferencváros 2-1-es vereség szenvedett a belga Anderlecht otthonában a labdarúgó Európa-liga alapszakaszának szerdai nyitófordulójában.
Róma felszámolja az illegális migránstáborokat
Roberto Gualtieri, Róma főpolgármestere, kedden elrendelte a migránsok és más hajléktalanok ideiglenes utcai alvóhelyeinek felszámolását. Ennek keretében a Termini pályaudvar melletti parkban található több tucat sátor lebontása is megkezdődött. A főváros köztisztasági hivatala elszállította a sátrakat, matracokat és személyes tárgyakat.
Pedofil gyilkolt Nyíregyházán: 12 éves kislány az áldozat
Tizenkét éves lányt fojtott meg egy 32 éves férfi Nyíregyházán, a gyanúsítottat a rendőrök őrizetbe vették - közölte a honlapján a Szabolcs-Szatmár-Bereg Vármegyei Rendőr-főkapitányság kedden.
Szijjártó: nem az a kérdés, hogy mit gondolunk a háborúról, hanem hogy hogyan lehet békét teremteni
Szijjártó Péter külgazdasági és külügyminiszter New Yorkban kedd este kifejtette, hogy "majdnem ezer nap elteltével a legfontosabb kérdés már nem az, hogy mit gondolunk a háborúról, hanem, hogy miként lehet békét kialakítani."
Nyugati kettősmérce a szuverenista államférfiak elleni merényletek kapcsán
2024-ben már az eddig történések alapján is kijelenthetjük – és hol van még az év vége -, hogy a szuverenista politikusok elleni terrorakciók és gyilkossági kísérletek soha nem látott szintre emelkedtek.
Vigyázzon! Ősszel a legnagyobb az esély a nagyvadakkal való ütközésre!
Az utóbbi hetekben ismét emelkedett a vadbalesetekről készült beszámolók száma, ami összefüggésben áll az állatok párzási időszakának során megfigyelhető viselkedésváltozásokkal - figyelmeztetett a Független Biztosítási Alkuszok Magyarországi Szövetsége (FBAMSZ).
Kína kifejlesztett egy miniatűr atomelemet, amelyből miniatűr atomerőművet akarnak csinálni
Számos kínai intézet fizikusai és mérnökei egy új miniatűr atomelemet fejlesztettek ki, amely 8000-szer hatékonyabb, mint az analógok.
Mit csináljon a család ősszel? Menjen el kirándulni!
Az ősz megérkezése nem csupán a levelek színének megváltozását jelenti, hanem remek lehetőséget biztosít a családok számára, hogy együtt felfedezzék a természet csodáit.
