Mystisk Projekt Q* fra OpenAI vækker bekymring blandt eksperter. Kan han virkelig være farlig for menneskeheden? Hvad ved man om ham? Efter at Sam Altman oprindeligt blev fyret i sidste uge, og han og holdet næsten flyttede ind i Microsoft, så vendte han tilbage til sin arbejdsplads (om det vi skrev her), OpenAI er i nyhederne igen. Denne gang på grund af det, nogle forskere kalder en mulig trussel mod menneskeheden. Ja, du læste rigtigt, en trussel mod menneskeheden.
Den virkelige omvæltning i teknologiens verden blev forårsaget af Project Q* - et ikke offentliggjort projekt for generel kunstig intelligens (AGI) - udtalt Q-Star. Selvom dette projekt er i sine tidlige stadier, anses det for at være virkelig banebrydende i AGI-udviklingen. Nogle ser det dog som en fare for menneskeheden.
Et hemmeligt kunstig intelligens-projekt udviklet af det berømte kunstig intelligens-laboratorium OpenAI har potentialet til at revolutionere teknologien og samfundet generelt. Men det rejser også nogle etiske spørgsmål om risiciene. Efterhånden som detaljer dukker op om Project Q*'s forbløffende evner, dukker der flere og flere spekulationer op om, hvad det kan betyde for menneskehedens fremtid.
Også interessant: Historien om OpenAI: Hvad det var, og hvad der ligger forude for virksomheden
Hvad er kunstig generel intelligens (AGI)?
For at forstå hypen omkring Project Q* (Q-Star), lad os først prøve at forstå, hvad begrebet Artificial General Intelligence (AGI) handler om. Mens de nuværende kunstige intelligenssystemer udmærker sig ved snævre, specifikke opgaver som at spille skak eller skabe billeder, refererer generel kunstig intelligens til maskiner, der kan lære og tænke på et menneskeligt niveau i mange domæner. Det vil sige, at de kan læse som små børn i skolen, for eksempel det grundlæggende i matematik, kemi, biologi mv.
General Artificial Intelligence (AGI) er en type maskinintelligens, der hypotetisk kan efterligne menneskelig intelligens eller adfærd, med evnen til at lære og anvende dette potentiale til at løse en række problemer. AGI kaldes også stærk kunstig intelligens, fuld kunstig intelligens eller kunstig intelligens på menneskeligt niveau. Generel kunstig intelligens er forskellig fra svag eller smal AI, som kun er i stand til at udføre specifikke eller specialiserede opgaver inden for givne parametre. ZHI vil selvstændigt kunne løse forskellige komplekse problemer fra forskellige vidensområder.
At skabe kunstig intelligens er hovedfokus for kunstig intelligens forskning af virksomheder som DeepMind og Anthropic. CSI er et meget populært emne i science fiction-litteratur og kan forme fremtidig forskning. Nogle hævder, at det er muligt at oprette en UCI inden for år eller årtier, mens andre hævder, at det kan tage et århundrede eller mere. Men der er dem, der tror, at dette aldrig vil blive opnået. Nogle har set begyndelsen på en URI i GPT-3, men den ser stadig ud til at være langt fra at opfylde de grundlæggende kriterier.
Skabelsen af kunstig generel intelligens (AGI) anses af forskere for at være kunstig intelligenss hellige gral, en teoretisk mulighed, der længe har fanget deres fantasi. Derfor forårsagede udseendet af et sådant projekt som OpenAI Project Q* en stor resonans i verden af kunstig intelligens-algoritmeforskning. Selvom alle forstår, at dette kun er de første skridt, næsten blindt, til en verden, hvor kunstig intelligens vil have de samme evner som mennesker, eller endnu højere.
Også interessant: Alt om Microsoft Copilot: fremtiden eller den forkerte vej?
Hvad er Project Q*?
Projekt Q* er ikke en typisk algoritme, fordi det er en kunstig intelligens-model, der i stigende grad nærmer sig den kunstige generelle intelligens (AGI)-modellen. Dette betyder, at i modsætning til ChatGPT viser Project Q* bedre tænkning og kognitive færdigheder sammenlignet med andre algoritmer. ChatGPT svarer i øjeblikket på forespørgsler baseret på en stor mængde faktuelt materiale, men med AGI vil AI-modellen lære ræsonnement og evnen til at tænke og forstå selv. Det er allerede kendt, at Project Q* er i stand til at løse simple matematiske problemer, som ikke var en del af dets træningsmateriale. I dette ser nogle forskere et væsentligt skridt hen imod skabelsen af generel kunstig intelligens (AGI). OpenAI definerer AGI som kunstige intelligenssystemer, der er smartere end mennesker.
Udviklingen af Project Q* ledes af OpenAI-chefforskeren Ilya Sutzkever, og dets grundlag blev underbygget af forskerne Jakub Pakhotsky og Shimon Sidor.
En algoritmes evne til at løse matematiske problemer på egen hånd, selvom disse problemer ikke var en del af træningsdatasættet, betragtes som et gennembrud inden for kunstig intelligens. Uenigheder i teamet vedrørende dette projekt er forbundet med den midlertidige fjernelse af OpenAI CEO Sam Altman. Det er kendt, at før Altman blev fyret, sendte en gruppe virksomhedsforskere et brev til bestyrelsen, hvor de advarede om opdagelsen af AI, der kunne udgøre en trussel mod menneskeheden. Dette brev, som angiveligt diskuterede Project Q*-algoritmen, blev nævnt som en af de faktorer, der førte til Altmans fyring. Men mulighederne for Project Q* og de potentielle risici, det kan udgøre, er ikke fuldt ud forstået, fordi detaljerne er ukendte. Intet er blevet frigivet til offentligheden.
I sin kerne er Project Q* en modelfri forstærkningslæringsmetode, der afviger fra traditionelle modeller ved ikke at kræve forudgående viden om miljøet. I stedet lærer den gennem erfaring og tilpasser handlinger baseret på belønninger og straffe. Tekniske eksperter mener, at Project Q* vil være i stand til at opnå fremragende evner ved at tilegne sig evner, der ligner menneskelige kognitive evner.
Det er dog denne funktion, der er mest imponerende i den nye model for kunstig intelligens, der bekymrer forskere og kritikere og rejser deres frygt for teknologiens anvendelse i den virkelige verden og de underliggende risici, der er involveret. Hvad er videnskabsmænd og forskere så bange for? Lad os finde ud af det.
Også interessant: Sådan opdaterer du dine hjemmeenheder til at understøtte Wi-Fi 6
De er bange for det ukendte
Mennesker har altid været bange for det ukendte, det ukendte. Dette er den menneskelige essens, et træk ved vores karakter og livsstil.
Teknologiens verden lærte om Project Q* i november 2023 efter Reuters rapporteret om et internt brev skrevet af bekymrede OpenAI-forskere. Indholdet af brevet var vagt, men det har angiveligt seriøst analyseret mulighederne i Project Q*. Som jeg nævnte ovenfor, er der endda spekulationer om, at det var dette brev, der udløste Sam Altmans fratræden.
Denne eksplosive opdagelse har givet anledning til forskellige hypoteser om arten af Projekt Q*. Forskere har foreslået, at dette kunne være en revolutionær naturlig sprogmodel for AI. En slags opfinder af nye algoritmer, som vil skabe dem til andre former for AI, eller noget helt andet inden for dette felt.
Altmans provokerende kommentarer om generel kunstig intelligens som den "gennemsnitlige medarbejder" har allerede rejst bekymringer om jobsikkerhed og den ustoppelige udvidelse af AI's indflydelse. Denne mystiske algoritme er defineret som en milepæl i udviklingen af Artificial General Intelligence (AGI). Alle forstår dog, at denne milepæl er dyr. Og det handler ikke om penge nu. Niveauet af kognitive færdigheder lovet af den nye AI-model medfører usikkerhed. OpenAI-forskere lover, at AI vil tænke på menneskeligt niveau. Og det betyder, at vi ikke kan vide mange ting og forudsige konsekvenserne. Og jo mere ukendt, jo sværere er det at forberede sig på at kontrollere eller reparere det. Det vil sige, at den nye algoritme er i stand til selvforbedring og udvikling. Det har vi allerede set et sted...
Også interessant: Windows 12: Hvad bliver det nye operativsystem
Fantastiske detaljer om Project Q's muligheder*
Da flere oplysninger begyndte at dukke op, chokerede det mange forskere. Tidlige indikationer var, at Project Q* havde en fantastisk evne til matematik. I modsætning til en lommeregner, der udfører mekaniske beregninger, kan Project Q* angiveligt bruge logik og ræsonnement til at løse komplekse matematiske problemer. Denne matematiske evne til at generalisere antyder udviklingen af en bred intelligens.
Autonom træning af Project Q*, uden de specifikke datasæt, der bruges til at træne typiske AI'er, vil også være et stort skridt fremad. Det er stadig uvist, om Project Q* har mestret andre færdigheder. Men hans matematiske evner er så fantastiske i sig selv, at de forvirrer selv erfarne forskere.
Læs også: Human Brain Project: Et forsøg på at efterligne den menneskelige hjerne
Projekt Q*'s vej til dominans?
Der er både optimistiske og pessimistiske scenarier i denne sag. Optimister vil sige, at Project Q* kan være gnisten, der fører til et teknologisk gennembrud. Efterhånden som systemet rekursivt forbedrer sig selv, kan dets overnaturlige intelligens hjælpe med at løse nogle af menneskehedens vigtigste problemer, fra klimaændringer til sygdomsbekæmpelse. Project Q* kan automatisere kedeligt arbejde og frigøre vores fritid til andre aktiviteter.
Selvom der er mange flere pessimistiske muligheder. Nogle gange er de ganske rimelige og har en vis betydning.
Tab af arbejdspladser
Hurtige skift i udviklingen af teknologi kan overgå den individuelle tilpasning af mennesker. Dette vil føre til tab af en eller flere generationer, som ikke vil være i stand til at tilegne sig de nødvendige færdigheder eller viden til at tilpasse sig nye virkeligheder. Det vil sige, at det igen betyder, at færre vil kunne beholde deres job. Det vil i stedet blive udført af maskiner, automatiserede systemer og robotter. Svaret er dog ikke så entydigt, når det kommer til kvalificerede specialister. Derudover kan der dukke nye fag, der er relateret specifikt til udviklingen af kunstig intelligens-algoritmer. Men der er stadig risici, og menneskeheden har ingen ret til at ignorere dem.
Faren for ukontrolleret magt
Hvis en AI så stærk som Project Q* falder i hænderne på dem med uhyggelige hensigter, risikerer det katastrofale konsekvenser for menneskeheden. Selv uden potentielt ondsindede hensigter kan beslutningsniveauet for Project Q* føre til skadelige resultater, hvilket understreger den kritiske vigtighed af omhyggeligt at evaluere dets anvendelse.
Hvis Project Q* er dårligt optimeret til menneskelige behov, kan det forårsage skade med dets evne til at maksimere nogle vilkårlige målinger. Eller det kan have en politisk dimension, såsom at blive brugt til statsovervågning eller undertrykkelse. En åben debat omkring konsekvensanalysen af Projekt Q* vil hjælpe med at definere mulige scenarier for udviklingen af ZHI.
Skal vi til et "Man vs. Machine"-opgør?
Hollywood har allerede skabt mange scenarier for en sådan konfrontation i sine film. Vi husker alle det berømte SkyNet og konsekvenserne af en sådan opdagelse. Måske skulle OpenAI-forskere se denne film igen?
Menneskeheden skal acceptere signaler og udfordringer og være forberedt på, hvad der kan ske. En kunstig intelligensmodel, der er i stand til at tænke som et menneske, kan en dag blive vores fjende. Mange vil hævde, at forskerne i fremtiden vil vide nøjagtigt, hvordan de skal holde situationen under kontrol. Men når det kommer til maskiner, kan man ikke helt udelukke, at de vil forsøge at overtage mennesker.
Også interessant: Ikke alt, hvad vi kalder AI, er faktisk kunstig intelligens. Her er hvad du behøver at vide
Hvorfor er OpenAI tavs?
På trods af den offentlige interesse for Project Q*, tier OpenAI's ledelse stille om algoritmens detaljer. Men den interne lækage viser voksende spændinger i laboratoriet over prioriteringer og åbenhed i udviklingen. Mens mange OpenAI-insidere støtter oprettelsen af Project Q*, hævder kritikere, at gennemsigtighed har taget bagsædet for at accelerere videnskabelige fremskridt for enhver pris. Og nogle forskere er bekymrede over, at der gives utrolig magt til systemer, hvis mål ikke nødvendigvis falder sammen med menneskelige værdier og etik. Disse forskere mener, at debatter omkring tilsyn og ansvarlighed er blevet farligt dæmpede. De kræver mere omtale og detaljer.
Som skaberne af Project Q* skal OpenAI forstå, at de har en teknologi, der enten i høj grad kan udvide mulighederne for samfundets udvikling, eller hensynsløst ødelægge den. Sådanne betydningsfulde innovationer fortjener meget mere gennemsigtighed for at opbygge offentlig tillid. Eventuelle prognostatorer af maskinalderen skal omhyggeligt afveje risici ved siden af fordelene. Og udviklerne af Project Q* er nødt til at vise nok visdom og omsorg til sikkert at føre samfundet ind i en ny æra med generel kunstig intelligens, der kan komme hurtigere, end vi nogensinde havde forestillet os.
For at generel kunstig intelligens kan være nyttig og sikker for menneskeheden, skal det sikres, at den fungerer sikkert, etisk og i overensstemmelse med menneskehedens værdier og mål. Dette kræver udvikling og implementering af passende lovgivningsmæssige handlinger, standarder, regler og protokoller, som vil kontrollere og begrænse CSI's handlinger og adfærd. Derudover skal de potentielle trusler og risici forbundet med misbrug, ulykker, uforeneligheder, manipulationer og konflikter, der kan føre til ødelæggelse af menneskeheden, elimineres. I mellemtiden har investorer og Microsoft venter spændt på et omsætteligt produkt, der kan generere profit, hvilket utvivlsomt er i konflikt med behovet for at handle ansvarligt. Lad os håbe, at sund fornuft sejrer.
Læs også: