OpenAi – ChatGPT- Ez veszélyes! Ez veszélyes?

Jó, bevallom, a címet szándékosan fogalmaztam sarkosan, de a cikk végére kiderül, hogy miért. Előljáróban annyit, hogy a cikk nyomokban tartalmazhat iróniát, ezért azt a helyén kell kezelni, de igazából tudjuk, hogy akiknek, akikről szól, ők már nem olvasnak el néhány száz karakternél több tartalmat. Mert az is veszélyes lehet rájuk nézve.

Csapjunk a billentyűzet közé.

Akkor olyan mint egy chatbot? Amit már ezerszer leírtak: Mi az a ChatGPT?

Az OpenAI által kifejlesztett ChatGPT egy olyan fejlett nyelvi modell, amely a GPT-4 architektúrán alapul. Úgy tervezték, hogy a kapott “bemenetet” megértse, megválaszolja és emberhez hasonló szöveget generáljon. A ChatGPT segítségével számos feladatot végrehajthatunk, rengeteg időt és energiát spórolva meg ezáltal. 

Mire használható:

• e-mailek megírására
• cikkek, vázlatok készítésére
• kérdések megválaszolásához
• chatbotokban folytatott beszélgetésekhez, pl. ügyfélszolgálat
• … és a folyamatos fejlesztésével a sort még folytatjuk egy távolabbi jövőben

A ChatGPT-t változatos internetes szövegeken képezik ki, de nem ismeri a konkrétumokat arról, hogy mely dokumentumok szerepeltek a képzési készletében. A gépi tanulási technikákat kihasználva a stílusok és hangnemek széles skáláját képes szimulálni, ami sokoldalú eszközzé teszi.

ChatGPT fejlesztése és fejlettsége

Kifinomultsága ellenére nincsenek érzései, és nem rendelkezik hiedelmekkel, vágyakkal vagy érzelmekkel. Folyamatosan frissítik és finomítják, hogy növeljék hatékonyságát, megértését és etikai igazodását. A ChatGPT fejlesztése rávilágít a természetes nyelvi feldolgozás és a mesterséges intelligencia képességeinek óriási fejlődésére.

Fontos: a ChatGPT alkalmazása túlmutat a szöveggeneráláson vagy kód, kódok írásán. Különböző szoftverrendszerekkel integrálható, hogy automatizálni lehessen az emberi nyelvi megértéssel járó folyamatokat. Ahogy a felsorolásban láttuk, felhasználási területei közé tartozik az ügyfélszolgálat, a tartalom moderálása, a nyelvi fordítás vagy a korrepetálás például.

Erősségei ellenére el kell ismerni, sőt! – és itt van a kutya elásva (ne ássatok el kutyát!) – hogy a ChatGPT-nek vannak korlátai! Amit megfelelő kritikus gondolkodással, széles szakmai és általános műveltséggel a helyén kell és lehet is kezelni!

Miért „hallucinál” a ChatGPT?

Néha hibákat követ el a kontextus megértésében, pontatlan vagy értelmetlen válaszokat hoz létre, és a valós adatokon történő kiképzés miatt elfogult viselkedést mutathat, ezt nevezzük hallucinációnak.

A ChatGPT “hallucinációinak” megértése érdekében – legalább felhasználói szinten – érdemes ismerni, hogyan működik az AI. A ChatGPT olyan nagy mennyiségű szövegadaton tanul, amelyet internetes forrásokból szerez. A tanulási folyamat során a modell különböző mintákat és struktúrákat sajátít el, amelyeket a saját generált szövegeiben alkalmaz.

A “hallucinációk” azok a helyzetek, amikor a modell információt hoz létre, ami nem létezik vagy nincs a bemeneti jelben.

Ez több okból is megtörténhet:

1. a ChatGPT nem rendelkezik valós világismerettel vagy kontextuális érzékeléssel, tehát nincs “tudatossága” arról, hogy a generált információ helyes-e vagy sem.
2. mivel a ChatGPT a mintákat követi, amelyeket a tanulási adatokból tanult, néha olyan mintákat hoz létre, amelyek valójában nincsenek ott.

Természetesen az OpenAI folyamatosan dolgozik azon, hogy csökkentse ezeket a “hallumesterséges intelligenciacinációkat” a modell fejlesztésével és finomításával. A közönség visszajelzése és a rendszeres ellenőrzések segítenek azonosítani a területeket, ahol a modell jobb lehet, és a jövőbeli frissítésekben ezeket a területeket javítják.

E problémák enyhítése érdekében az OpenAI komoly kutatásba és mérnöki munkába fektet, hogy csökkentse a ChatGPT használata során a különböző bemenetekre adott reakcióinak kirívó és finom torzításait.

Ezenkívül az OpenAI biztosítja, hogy a ChatGPT használata összhangban legyen az előnyök széles körű elosztása, a hosszú távú biztonság, a technikai vezető szerep és az együttműködésre való orientáció iránti elkötelezettségével.

A felhasználási irányelvek – valljuk be több-kevesebb sikerrel – úgy lettek meghatározva, hogy elősegítsék a felelős és pozitív interakciókat a mesterséges intelligenciával.

A ChatGPT jövője

A ChatGPT jövője kifinomultabb és árnyaltabb interakciókat ígér, amelyek megnyitják az utat az AI-élmények előtt.

A mesterséges intelligencia (AI) a számítástechnika multidiszciplináris ágát képviseli, amelynek célja az emberi intelligencia szimulálása a gépekben.

Olyan algoritmusok létrehozását és alkalmazását foglalja magában, amelyek lehetővé teszik a gépek számára, hogy olyan feladatokat hajtsanak végre, amelyekhez általában emberi intelligencia szükséges. Ezen feladatok közé tartozik a tapasztalatokból való tanulás, az emberi nyelv megértése, a minták felismerése, a problémamegoldás és a döntéshozatal.

A mesterséges intelligenciát jellemzően két típusba sorolják:

• szűk értelemben vett mesterséges intelligencia – olyan speciális feladatok elvégzésére terveztek, mint a hangfelismerés,
• általános mesterséges intelligencia – olyan szellemi feladatra képes, amelyet az ember is végez.

A mesterséges intelligencia területe a kezdetek óta drámaian fejlődött, és többek között olyan területekre is kiterjesztette hatókörét, mint az egészségügy, a pénzügy, a közlekedés és a szórakoztatás.

Természetes, hogy miközben óriási potenciális előnyökkel jár, etikai és társadalmi megfontolásokat is felvet, amelyek felelősségteljes használatot és irányítást igényelnek.

Az AI-technológiák ma már beépültek mindennapi életünkbe, és olyan alkalmazásokat működtetnek, mint a keresőmotorok, e-mail spamszűrők, hangalapú asszisztensek és ajánlórendszerek. Segítenek az utakon való navigálásban, az időjárás előrejelzésében és még a betegségek diagnosztizálásában is. A fejlett mesterséges intelligencia modellek, mint például a gépi tanulás és a mélytanulás, képesek adatokból tanulni és idővel fejlődni, lenyűgöző módon tükrözve az ember kognitív képességeit.

Figyelemre méltó képességei ellenére a mesterséges intelligencia nem mentes a kihívásoktól. Hajlamos az elfogultságra, a pontatlanságra, és ha nem megfelelően védik, rosszindulatú célokra is felhasználható. Ezen túlmenően a mesterséges intelligenciával kapcsolatos döntéshozatal átláthatósága, az úgynevezett “megmagyarázhatóság” is jelentős kihívást jelent.

Ezzel együtt elmondhatjuk, hogy az AI jövője és ezzel együtt a ChatGPT jövője izgalmas.

A kialakulóban lévő trendek közé tartozik, hogy egyre autonómabbá, személyre szabottabbá és a különböző területekbe integrálttá válik.

További fejlesztése és alkalmazása során azonban kulcsfontosságú kérdés: biztosítják-e, hogy használata megfelel az etikai normáknak, és pozitívan járul hozzá a társadalomhoz?

Bár, meg kell jegyezzük, hogy az ember képes a leghasznosabb találmányt is a világ és önmaga kárára fordítani egy plusz marék apróért, vagy egy – olykor megkérdőjelezhető – elvért.

Tényleg veszélyes az AI és ChatGPT, avagy mit kezd az emberiség a mesterséges intelligenciával?

Ahogy fentebb láttuk a mesterséges intelligencia (AI) jelentős előrelépéseket tett az elmúlt években, a gépi tanulás algoritmusai olyan feladatokat is elvégeznek, amelyekről korábban azt gondolták, hogy kizárólag az emberek feladata.

Milyen feladatok ezek?

• képek felismerése, generálása
• beszéd átírása
• összetett játékok lejátszása
• egyedi, önálló, akár tudományos igényű szöveg megírása

A mesterséges intelligencia rendszerek “hatalomátvételének” kilátása azonban több okból is a tudományos fikció, nem pedig a tudományos tény birodalmába tartozik.

Amiért a legtöbb ember veszélyként tekint rá, az köszönhető pl. a ChatGPT köré épített marketing folyamatnak, ami sokkal fejlettebbnek láttatja, mint ami valójában.

De nézzük meg, mire gondolok:

1. bár a mesterséges intelligencia-rendszerek különleges, szűk körű feladatokban kiemelkedőek, messze vannak attól, hogy elérjék a mesterséges általános intelligenciát (AGI), vagyis a gépi intelligencia olyan szintjét, amely sokoldalúságában és rugalmasságában az emberi intelligenciához hasonlítható. A jelenlegi mesterséges intelligencia rendszerek a mintafelismerés és előrejelzés elvei alapján működnek, szigorúan meghatározott paraméterek között. “Tudásuk” nem terjed túl a képzési adatokon, és nem képesek megérteni vagy alkalmazkodni az új kontextusokhoz, mint az emberek.
2. a mesterséges intelligencia rendszerekből hiányzik a megértés és a tudatosság. Még ha egy kifinomult nyelvi modell emberhez hasonló szöveget is állít elő, akkor sem érti az általa előállított szöveget, és nincs önismerete. Az AI-rendszereknek nincsen hite, vágyaik vagy félelmeik, és nem tudnak terveket vagy szándékokat alkotni. Ezek komplex eszközök, de nem érző lények.
3. a mesterséges intelligencia létrehozása és megvalósítása emberi ellenőrzés alatt áll. A mesterséges intelligencia technológiákat emberi csapatok fejlesztik, telepítik és tartják karban. Csak a programozásuk és tervezésük által meghatározott keretek között működhetnek. Használatukat az emberek által hozott irányelvek és törvények szabályozzák, és a mesterséges intelligenciával foglalkozó közösségben kiterjedt erőfeszítések történnek e technológiák etikus és biztonságos használatának biztosítására.
4. a mesterséges intelligenciával működő rendszerek „hatalom átvételének” fogalma gyakran azt jelenti, hogy a mesterséges intelligenciával működő rendszerek fejlesztik ki céljaikat és célkitűzéseiket, ami téves elképzelés. Az AI rendszereknek nincsenek személyes motivációik. A programozásuk alapján működnek, és ezután is így fognak működni, hacsak a kódjukat nem változtatják meg. De ebben az esetben is csak azt hajtja végre a gép, amit előzőleg „leprogramoztak”.

A jelenlegi mesterséges intelligencia rendszerek, mint például a ChatGPT képességeik ellenére messze nem rendelkeznek az emberi intelligencia autonómiájával, megértésével és rugalmasságával.

Miközben elengedhetetlen az AI fejlesztésének társadalmi és etikai következményeit mérlegelni, az AI “hatalomátvételének” gondolatát nem támasztja alá a jelenlegi tudás- és technológiai szint.

De mégis kire veszélyes a ChatGPT használata?

Aki kicsit is figyelmesebb, érdekes jelenséget vélhet a ChatGPT körüli hype mögött felfedezni. Miszerint, egyetlen valós veszély tényleg létezik. Az, hogy látványosan kiderül a ChatGPT és úgy általában az AI chat-ek köré felépült szakmai fórumokban, hogy a felhasználók magas százaléka nem képes: konzisztensen, koherensen, tűpontosan fogalmazni, ahhoz, hogy egy utasítást (de legyünk szakmaiak: promptot) megadjon az AI-nak.

És ennek kapcsán születnek a mellveregetős posztok, hogy: átvertem a ChatGPT-t, a BingAI-t, hülyeséget válaszolt, buta, mint a Föld stb. stb.

És igazából ez a veszélyes, nem a ChatGPT!

Ezen azonban nem szabad meglepődnünk, így működik az emberi agy: félünk az ismeretlentől. Valószínűleg idővel az OpenAI által fejlesztett szoftverrel kapcsolatos bizalmatlanság is teljesen megszűnik majd.

A pontos utasítások megadása kulcsfontosságú, mivel nyelvi modellként a kapott input alapján generálja a válaszokat.

Ismétlés következik, ezt NE felejtsük el használat során: nincs megértése és kontextusa a képzési adatokon túl. A félreérthető utasítások nem pontos, nem releváns vagy nem hasznos válaszokhoz vezethetnek. A súgó megírása a modell kezdeti bemenetének megalkotása. Egy jól felépített prompt világos, egyértelmű kontextust és kérést biztosít. Ez alapvető fontosságú a modell irányításában, hogy a kívánt kimenetet produkálja.

A promptok írásának pontossága és egyértelműsége az adattudományban a “szemét be, szemét ki” elvét tükrözi: a kimenet minősége a bemenet minőségétől függ. Ha a bemeneti mondat nem jól strukturált vagy világos, a modell nehezen érti meg a felhasználó szándékát, és így nem biztos, hogy pontos vagy hasznos választ ad.

Ami még annak ellenére is előfordulhat, ha pontos utasítást adunk, mivel a hibalehetőségét magában hordozza.

Ezért nekem az a sziklaszilárd meggyőződésem, hogy ezt a rendszert továbbra is azok tudják maximálisan kihasználni, akik alapból rendelkeznek egy az átlagosnál magasabb műveltségi szinttel, képesek kritikusan gondolkodni és minőségi kreatív vénával rendelkeznek.

Kérdezzük meg az „illetékest” is

Összességében elmondhatjuk, hogy a ChatGPT-t és általában a mesterséges intelligenciát övező félelmek egy része a visszaélésekkel, a megértés hiányával és az emberi szerepek vélt veszélyeztetettségével kapcsolatos aggodalmakból ered.

Vegyük sorra az emberi aggodalmakat a ChatGPT-vel kapcsolatban, miszerint a mesterséges intelligencia-eszközök alkalmasak lehetnek:

• hamisított tartalmak létrehozására, dezinformáció terjesztésére
• közvélemény manipulálására, mivel képesek emberhez hasonló szöveget generálni
• kedvez a dark weboldalak fejlődésének, az illegális termékek népszerűségének,
• a mesterséges intelligencia felváltja az emberi munkát, különösen az olyan területeken, mint az ügyfélszolgálat, szövegírás, online marketing bizonyos területei

A mesterséges intelligencia átláthatatlan döntéshozatali folyamata, vagyis a “fekete doboz” problémája is növeli a nyugtalanságot, mivel a felhasználók számára gyakran nehéz megérteni, hogy a mesterséges intelligencia hogyan jut el egy adott kimenethez.

Ezt a kérdést tettem fel a ChatGPT-nek:

„Lelketlen, emberietlen világ jön-e, ha egyre több ember munkáját elveszi a ChatGPT? pl. a szövegírók munkáját, ami ma már realitás, hisz számtalan helyen lehet olvasni erről, hogy főleg a SEO világában nagy átalakulások várhatók.”

A válasz módosítás nélkül, így hangzik:

„A mesterséges intelligencia, mint a ChatGPT, valóban megváltoztatja a munka világát, beleértve a szövegírókat is, és kétségtelen, hogy ez a változás kihívásokat és aggodalmakat vet fel. Azonban nem feltétlenül vezet “lelketlen világ” kialakulásához.

Az AI segítségével automatizált feladatok elvégzése lehetővé teszi az embereknek, hogy összpontosítsanak a komplexebb, kreatívabb feladatokra, amelyek továbbra is emberi beavatkozást igényelnek. Például, bár a ChatGPT képes cikkeket generálni, a tartalom ellenőrzése, finomítása és kontextusba helyezése továbbra is emberi írókat igényel.

A technológia fejlődésével a munkahelyek is átalakulnak. Új szerepek és szakmák jönnek létre, amint mások automatizálódnak. Ez történt a múltban a technológiai fejlődéssel, és valószínűleg a jövőben is így lesz.

Fontos azonban, hogy az AI fejlődésének ezt a hatását proaktívan kezeljük, támogatva az embereket az új készségek elsajátításában, és biztosítva, hogy a technológiai átmenet igazságos és inkluzív legyen.”

ChatGPT

Ez konkrétan a félig tele és félig üres pohár esete, mint minden a világunkban. Az üzleti világban, jelen esetben a keresőoptimalizálásban, az online marketing bizonyos szegmensében már eddig is jelen voltak az AI-rendszerek, sőt maga a Google is használ algoritmusaiban gépi tanulási folyamatot, csak most hirtelen „látványosan” emberközeli lett.

S, akik elkezdtek vele dolgozni hatékonyságban, pontosságban szintet léptek, de nyilván az emberi vonatkozású oldalát – kevesebb ember, hatékonyabb, pontosan munkafolyamat –  fel kell előbb dolgozni, hogy később megfelelően együtt tudjunk működni a munkára fogható AI-kkal.

Aki nem szeretne lemaradni a folyamatos újításokról, mindenképpen vesse bele magát a mesterséges intelligenciával működő szoftverek, nyelvi modellek világába – hiszen ezeké a jövő! A ChatGPT mellett számos egyéb lehetőség is van, például a Microsoft által fejlesztett Bing AI (ez az app, csakúgy, mint a ChatGPT is, felhasználóbarát – böngészőből is elindíthatja bárki, aki szeretne vele közelebbi ismeretséget kötni). A Bing is képes értelmezni a természetes nyelvű lekérdezéseket, azaz megérteni a felhasználók által írt vagy mondott szavakat és kifejezéseket. Ez segít a rendszernek abban, hogy jobban megértse a keresési szándékot és kontextust. És igen – ezzel a programmal is meg lehet „íratni” egy adott szöveget, de ahogyan a fentiekben már megjegyeztük, ezek a szövegek emberi tényezők nélkül nem feltétlenül minőségiek.