0

Antropinis samdomas buvęs OpenAI saugos vadovas vadovauja naujai komandai

  • 28 gegužės, 2024


Janas Leike'as, pirmaujantis dirbtinio intelekto tyrėjas, kuris anksčiau šį mėnesį atsistatydino iš „OpenAI“, prieš viešai sukritikavęs bendrovės požiūrį į DI saugumą, prisijungė prie „OpenAI“ konkurento „Anthropic“, kad vadovautų naujai „superlygiavimo“ komandai.

Straipsnyje apie X Leike'as teigė, kad jo komanda „Anthropic“ daugiausia dėmesio skirs įvairiems AI saugos ir saugumo aspektams, ypač „mastelio keitimo priežiūrai“, „nuo silpno iki stipraus apibendrinimo“ ir automatizuoto derinimo tyrimams.

Šaltinis, susipažinęs su šiuo klausimu, pasakoja „TechCrunch“, kad Leike'as tiesiogiai atsiskaitys Anthropic vyriausiajam mokslo pareigūnui Jaredui Kaplanui ir kad Anthropic tyrėjai, šiuo metu dirbantys su keičiamo dydžio priežiūra – metodais, leidžiančiais nuspėjamais ir pageidaujamais būdais kontroliuoti didelio masto AI elgesį, – praneš. Leikei, kai sukasi Leike komanda.

Daugeliu atžvilgių Leike komandos misija skamba panašiai kaip neseniai iširusios OpenAI Superalignment komandos. „Superalignment“ komanda, kuriai kartu vadovavo Leike, turėjo ambicingą tikslą per ateinančius ketverius metus išspręsti pagrindinius techninius iššūkius, susijusius su superinteligentiškojo dirbtinio intelekto valdymu, tačiau dažnai susidurdavo su „OpenAI“ vadovavimu.

„Anthropic“ dažnai bandė save laikyti labiau saugaus dėmesio nei „OpenAI“.

„Anthropic“ generalinis direktorius Dario Amodei kažkada buvo „OpenAI“ tyrimų viceprezidentas ir, kaip pranešama, išsiskyrė su „OpenAI“ po to, kai nesutarė dėl bendrovės krypties – būtent dėl ​​didėjančio OpenAI komercinio dėmesio. Amodei atsinešė daugybę buvusių OpenAI darbuotojų, kad galėtų pradėti Anthropic, įskaitant buvusį OpenAI politikos lyderį Jacką Clarką.





Source link

Draugai: - Marketingo agentūra - Teisinės konsultacijos - Skaidrių skenavimas - Fotofilmų kūrimas - Miesto naujienos - Šeimos gydytojai - Saulius Narbutas - Įvaizdžio kūrimas - Veidoskaita