Q-star, den "super avanserte" AI, kan ha ført til oppsigelsen av openai sin administrerende direktør. Selskapets styre sparket Sam Altman etter å ha advart om oppdagelsen av kraftig AI med potensial til å true menneskeheten. Lederen ble ansatt på nytt etter press fra ansatte

Q-Star, den "superavanserte" AI, kan ha ført til oppsigelsen av OpenAIs administrerende direktør

mario mamede avatar
Selskapets styre sparket Sam Altman etter å ha advart om oppdagelsen av kraftig AI med potensial til å true menneskeheten. Lederen ble ansatt på nytt etter press fra ansatte

I en overraskende vending av hendelsene OpenAI, skaperen av ChatGPT, befant seg i sentrum av en kontrovers da forskere varslet styret om en alarmerende oppdagelse innen kunstig intelligens (AI). Denne avgjørende advarselen gikk foran konsernsjefens oppsigelse, Sam Altman, etter vedtak i styret, noe som resulterte i intense reaksjoner i selskapet.

Oppsigelsen og ansettelsen av Sam Altman

Ia avanserer for mye og den sparkede openai-sjefen blir ansatt på nytt
AI avanserer for mye og den sparkede OpenAI-sjefen blir ansatt på nytt (Bilde: Te Capital Advisor)

A OpenAI sparket sin administrerende direktør, Sam Altman, den 17. november 2023, etter vedtak i selskapets styre. Oppsigelsen av Altman skapte forargelse blant ansatte i selskapet, som uttrykte støtte til konsernsjefen på sosiale medier.

A Microsoft har invitert Altman og alle ansatte i OpenAI å opprette en ny AI-avdeling i selskapet. Noen styremedlemmer, som var uenige i oppsigelsen, gjorde imidlertid opprør og forsøkte å snu situasjonen og la frem et forslag om at administrerende direktør skulle komme tilbake.

Altman takket ja til invitasjonen og returnerte til OpenAI, men pressen prøvde å finne ut årsaken bak hele denne situasjonen. Kilder sier at avgjørelsen er relatert til en betydelig oppdagelse innen AI som utgjør en risiko for menneskeheten. Dette mistenkes å ha sammenheng med noe som heter Q* (Q-Star ou Q Star), som er en kunstig superintelligens.

Hva er Q-Star

Ny AI kalt det bekymrer forskere
Ny AI bekymrer forskere (Bilde: Innskuddsbilder – Manipulering: Mario Mamede)

Ifølge Reuters, brevet forskerne sendte til rådet detaljerte risikoene forbundet med en tidligere ikke avslørt AI-algoritme kalt Q*. Dette gjennombruddet ble et sentralt øyeblikk som reiste spørsmål om etikk, sikkerhet og fremtiden til AI i OpenAI.

O Q* fikk prominens for sin evne, drevet av enorme beregningsressurser, til å løse matematiske problemer. Selv om ytelsen er sammenlignbar med den til grunnskoleelever, har det å bestå testene skapt optimisme blant forskere om det fremtidige potensialet til AI-algoritmen.

Bekymringen uttrykt i brevet adresserte ikke bare dyktigheten til AI, men også overhengende farer. Spesifikke detaljer om risikoene nevnt i brevet er fortsatt uklare, men kilder indikerer at brevet spilte en betydelig rolle i styrets klager, som kunne ha kulminert i Altmans oppsigelse.

Når styret kunngjorde fratredelsen, fremhevet bekymringer ikke bare om AI, men også om kommersialisering av teknologiske fremskritt før de fullt ut forstår implikasjonene deres. Denne bevegelsen tok mer enn 700 ansatte truer med å si opp i solidaritet, presentere et unikt og utfordrende perspektiv på selskapets fremtid, lage Altman var gjenansatt sist tirsdag.

Etter oppsigelsen av Altman, viste det seg at et team av AI-forskere ble dannet ved å slå sammen lagene "Kode Gen"Og"Matematikk Gen". Dette teamet hadde som mål å forbedre eksisterende AI-modeller for å forbedre resonnement og, i fremtiden, utføre vitenskapelig arbeid. Dette teamet spilte en viktig rolle i diskusjoner om selskapets strategiske retning angående kunstig intelligens.

Ved spørsmål, selskapet valgte å ikke gi mange detaljer om prosjektet Q-Star og brevet sendt til rådet. I en intern melding til ansatte bekreftet selskapet eksistensen av prosjektet og brevet, men ga ikke ytterligere informasjon, noe som etterlot en aura av mystikk og bekymring rundt disse viktige hendelsene.

Farene ved super AI

Hva er de etiske grensene for kunstig intelligens?
Hva er de etiske grensene for kunstig intelligens? (Bilde: Innskuddsbilder)

Noen ansatte tror at Q* kan representere et betydelig fremskritt mot "kunstig generell intelligens" (AGI), som er systemer for inteligência kunstig som har kognitive evner som kan sammenlignes med eller overlegne menneskers i en lang rekke oppgaver.

Fordi AIs påståtte evner ikke har blitt uavhengig verifisert, oppstår spekulasjoner om dens sanne innvirkning og transformasjonspotensial. Forskere vurderer evnen til Q* å utføre matematiske operasjoner som en avgjørende grense i utviklingen av overlegen generativ AI.

Mens nåværende AI utmerker seg i oppgaver som å skrive og oversette, signaliserer evnen til å takle matematiske problemer der det bare er ett riktig svar et trekk mot en intelligens som er nærmere mennesket. Denne prestasjonen kan ha dype implikasjoner for vitenskapelig forskning og praktiske anvendelser.

Imidlertid Reuters fremhever at den største bekymringen for informatikere og forskere er risikoen for at svært intelligente systemer tar sannsynlige avgjørelser om ødeleggelse av menneskeheten i deres egne interesser.

Oppsigelsen av Altman, en stor visjonær leder ansvarlig for den rungende suksessen til ChatGPT, venstre ansatte overrasket og bekymret, som Altman klart å tiltrekke seg viktige investeringer, inkludert avgjørende ressurser fra Microsoft, mens de streber etter å oppnå AGI.

I lederens siste presentasjon, som fant sted nylig, ble selskapets nye verktøy og teknologiske fremskritt avslørt. Under arrangementet uttrykte han optimisme angående de store prestasjonene som kommer, og fremhevet den kontinuerlige søken etter å flytte grensene for kunnskap som en kilde til yrkesstolthet.

"Ved fire anledninger gjennom OpenAIs historie, den siste bare de siste ukene, har jeg hatt privilegiet av å være der mens vi avdekket uvitenhet og presset grensen for oppdagelse. Å være en del av dette er en profesjonell ære en gang i livet.»

Sam Altman, under toppmøtet om økonomisk samarbeid i Asia og Stillehavet.

Men oppsigelsen og gjenansettelsen av Altman reiser tvil om retningen for selskapets fremtid. Styret uttrykte ved denne beslutningen bredere bekymringer, ikke bare angående teknologien i seg selv, men også om den for tidlige avsløringen av teknologiske fremskritt og de etiske implikasjonene knyttet til dem.

Scenariet er komplekst, med etiske utfordringer, teknologiske usikkerheter og fremtiden til AI OpenAI i spill. Etter hvert som historien utfolder seg, venter samfunnet spent på mer informasjon om prosjektet Q*, forskernes brev og selskapets neste steg i sin søken etter avansert kunstig intelligens.

Se mer:

Kilde: Reuters, Google Discovery, CNBC, CNN Portugal

Anmeldt av Glaucon Vital den 23.

Legg igjen en kommentar

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *

Relaterte innlegg