AGI og Q* (Q-star)
Skaperverkstedets ABC
Denne siden handler om rykter fra OpenAI om at de har utviklet AGI (Artificial General Intelligence) med deres prosjekt Q* (Q-star).
Noen frykter denne utviklingen, andre tror det bare er rykter og andre igjen tror at det er den neste utviklingstrinn innen AI. Foreløpig er status quo at det ikke er utviklet noen AGI.
Dette er hva jeg har forstått så langt. Men dette handler også om fremtidssenarier med AI og hvor disruptiv AI vil bli med AGI, så egentlig er det vel ingen som vet noe offisielt.
AGI er AI-feltets hellige gral... og største frykt - på samme tid.
Dette er en balansegang mellom fremtidsoptimisme og -pessimisme og det er vanskelig for vanlige folk å følge med. Jeg kan bestemt ta feil i det jeg skriver her, så ta alt med forbehold.
Det er flere forskere som har stått frem med advarsler mot denne utviklingen mot AGI.
Man skjelner teoretisk mellom smal (svak) AI og bred (sterk) AI, hvor den smalle AI er den vi har nå (og har hatt i mange år, selvom mye er skjedd med offentlig tilgang til ChatGPT4 i 2023), mens det er den brede AI (AGI), det vil være den mest disruptive.
AGI er noe av det som av mange blir fryktet fordi det betyr at AI-generatorer blir gode på et hidtil usett nivå.
AGI vil bli så gode til å løse matematiske problemer (blant annet) at de også vil kunne bli brukt til å knekke de krypteringer, som blir brukt overalt på Internettet når man snakker om sikkerhet. Blir en AGI satt til å knekke slike koder og krypteringer, så vil sikkerheten på Internett bryte sammen. For vi har ingen nyutviklet metoder til kryptering (krypteringer og knekking av dem har vært en syklus det har eksistert i lang tid historisk sett).
AGI vil også bli ekstrem god på fysikk og kjemi (hvor matematikk er et underliggende redskap) og det vil bety at i feil hender vil det kunne bli utviklet noe som ikke er godt for menneskeheten.
Det er flere andre områder hvor AGI er teoretisk definert. Det gjelder blant annet om at systemet er kreativt og kan lære, samt utvikle seg selv videre.
I utviklingen av AI og derved AGI, så er det en balansegang mellom teknologisk videreutvikling, kommersielle interesser og en global konkurranse (som det ofte ikke blir snakket om...). Det er her OpenAI kommer inn med at de tilsynelatende ligger i front med utviklingen. Spørsmålet om ChatGPT4 er en AGI er negativ fordi den ikke lærer av sine feil. Den undskylder og gjentar feilen. Dette er kanskje irritererende for brukeren, men det betyr også at ChatGPT4 ikke er en AGI.
Vi skal ikke underkjenne at både personer og firmaer vil være interessert i å komme først med å ha utviklet et AGI-produkt. Selvom at mange også frykter for konsekvensene. OpenAI har ikke gått ut offisielt, men det er rykter. Rykter kan både være sanne og de kan være usanne. Det er mange forskjellige interesser her...
https://en.wikipedia.org/wiki/Artificial_general_intelligence
https://www.techtarget.com/searchenterpriseai/definition/artificial-general-intelligence-AGI
https://www.wired.com/story/what-is-artificial-general-intelligence-agi-explained/