Сем Алтман се чини дека го признава постоењето на нов таен систем за вештачка интелигенција на судниот ден на кој тој помогна да се изгради - тоа би можело да биде скок кон вештачката општа интелигенција
  Објавено на
share

 Сем Алтман се чини дека го признава постоењето на нов таен систем за вештачка интелигенција на судниот ден на кој тој помогна да се изгради - тоа би можело да биде скок кон вештачката општа интелигенција

  • Изворите тврдат дека нов пробив на вештачката интелигенција е причината за отпуштањето на извршниот директор 
  • Алтман остана затегнат, но индиректно го призна постоењето на програмата
  • Наместо да го негира Q*, извршниот директор на OpenAI го нарече „несреќно протекување“ 
  • ПРОЧИТАЈ ПОВЕЌЕ: Како Сем Алтман доби отказ, се вработи, па повторно се вработи 

 

Се чини дека Сем Алтман ја води довербата кон теоријата дека бил отпуштен од OpenAI поради супермоќниот, таен нов систем  за вештачка интелигенција на неговата компанија што тој помогнал да се изгради.

Наводно, повеќе вработени го предупредиле одборот на директори на компанијата дека овој проект, наречен Q* (се изговара „Q star“), станува толку напреден што веќе може да положи испити по математика и да извршува задачи за критичко размислување. 

И тие почувствуваа дека Алтман не ги сфаќа сериозно нивните предупредувања. 

Во интервју оваа недела, Алтман не го негираше постоењето на тајната програма за која некои вработени рекоа дека е одговорна за неговото отпуштање. 

Наместо тоа, тој го нарече откривањето на Q* „несреќно протекување“. 

Алтман беше отпуштен, а потоа ангажиран од инвеститорот на OpenAI Мајкрософт , а потоа повторно ангажиран од OpenAI - кој исто така му ја даде подигањето на поголемиот дел од одборот што го отпушти Алтман - во текот на само пет дена во ноември.

Сем Алтман е извршен директор на OpenAI, компанија позната по создавањето на четботот за вештачка интелигенција наречен ChatGPT.  OpenAI, наводно, развива помоќна вештачка интелигенција наречена Q*, што може да биде причината поради која бил отпуштен.
  •  

Сем Алтман е извршен директор на OpenAI, компанија позната по создавањето на четботот за вештачка интелигенција наречен ChatGPT. OpenAI, наводно, развива помоќна вештачка интелигенција наречена Q*, што може да биде причината поради која бил отпуштен.

Јавноста дозна за постоењето на Q* во една неодамнешна приказна на Ројтерс, која исто така сподели некои загрижености покренати во предупредувачкото писмо на вработените до одборот.

Но, таа вест го опфати само Q* и содржината на писмото во општи термини, бидејќи новинарите на Ројтерс не го видоа писмото.

Со сета оваа несигурност, Алтман беше добро позициониран да го негира постоењето на Q* и да го отфрли како неоснована гласина. 

Наместо тоа, се чинеше дека го потврди тоа.

„Нема посебен коментар за тоа несреќно протекување“, рече тој. „Но, она што го зборувавме - пред две недели, она што го зборуваме денес, она што го кажувавме пред една година, она што го кажувавме претходно - е дека очекуваме напредокот во оваа технологија да продолжи да биде брз и дека исто така очекувајте да продолжите да работите многу напорно за да дознаете како да го направите безбедно и корисно“.

Луѓето кои работат во вештачката интелигенција предупредија дека штом компјутерските научници ќе постигнат вештачка општа интелигенција (AGI), таа може да стане помоќна отколку што луѓето можат да се борат.

Тие дури би можеле  да ги гледаат луѓето како закана  што мора да се елиминира, со вклучување на интернет и компјутерска инфраструктура за спроведување на планот за судниот ден.

Таквите стравови се усогласуваат со предвидувањата на експертите дека еден ден вештачката интелигенција ќе достигне точка позната како сингуларност, кога технологијата ќе стане помоќна и поинтелигентна отколку што луѓето можат да се натпреваруваат, менувајќи го текот на нашата еволуција.

Поранешниот инженер на Google, Реј Курцвејл еднаш предвиде дека сингуларноста ќе пристигне до 2045 година .

Тајната програма наречена Q* може да биде причината поради која Сем Алтман беше отпуштен од функцијата извршен директор на OpenAI.  Кога доби шанса да го негира постоењето на програмата, Алтман се појави да го признае тоа наместо тоа
  •  

Тајната програма наречена Q* може да биде причината поради која Сем Алтман беше отпуштен од функцијата извршен директор на OpenAI. Кога доби шанса да го негира постоењето на програмата, Алтман се појави да го признае тоа наместо тоа

Во април, повеќе од 25.000 луѓе потпишаа отворено писмо  во кое повикуваат на шестмесечна пауза во истражувањето на вештачката интелигенција. Во тоа време, Алтман рече дека се согласува со повиците за претпазливост, но не се согласува со „техничката нијанса“ содржана во отвореното писмо.

Тој не го потпиша.

Извештаите тврдат дека неколку вработени  напишале писмо до одборот на OpenAI пред Алтман да биде отстранет од OpenAI.

Се вели дека писмото детално објаснува како компанијата на Алтман  работела на нови откритија за вештачка интелигенција кои биле опасни, а се вклучени сериозни ризици со комерцијализацијата на технологии чии потенцијални последици компанијата не ги сфатила цврсто.

Ројтерс објави дека  Q* е дел од причината поради која Алтман бил отпуштен од OpenAI, поради напредните способности на новиот систем.

Изворите рекоа дека  Q* веќе ги подготвува тестовите по математика, додека последната верзија на ChatGPT, GPT-4, сè уште се бори со испитите во средно училиште.

Луѓето кои работат во вештачката интелигенција предупредија дека штом компјутерските научници ќе постигнат AGI, тој може да стане помоќен отколку што луѓето можат да се борат.  Тие дури би можеле да ги гледаат луѓето како закана што мора да се елиминира
  •  

Луѓето кои работат во вештачката интелигенција предупредија дека штом компјутерските научници ќе постигнат AGI, тој може да стане помоќен отколку што луѓето можат да се борат. Тие дури би можеле да ги гледаат луѓето како закана што мора да се елиминира

GPT-4 лансиран во март, давајќи му време да напредува, додека Q* допрва треба да биде потврдено. 

Изворите, исто така, тврдеа дека Q* може да користи нелинеарни методи како што се „Дрвото на мислите“, „Пребарување на дрвото во Монте-Карло“ (MCTS), „Модели за награда надгледувани од процеси“ (PRM) и алгоритам за учење. 

Сепак, се вели дека персоналот на OpenAI верува дека Q* може да биде пробив што овозможува развој на AGI.

OpenAI го дефинира AGI како „системи со вештачка интелигенција кои се генерално попаметни од луѓето“.  

Оваа недела, кога го прашаа зошто е отпуштен во неговото интервју за The Verge , Алтман остана цврсто скржав, пренасочувајќи ги прашањата до членовите на одборот на OpenAI - кои не беа интервјуирани.

Во времето на објавувањето на овој напис, OpenAI не одговори на барањето за коментар на DailyMail.com.




КОМЕНТАРИ




Copyright Jadi Burek © 2013 - сите права се задржани