Startuolis, pavadintas „Letta“, ką tik atsirado slaptai su technologijomis, kurios padeda dirbtinio intelekto modeliams prisiminti vartotojus ir pokalbius. Sukurta garsiojoje UC Berkeley laboratorijų gamykloje, ji taip pat paskelbė apie 10 milijonų dolerių pradinių pinigų, vadovaujamų Feličio Astasijos Myers, 70 milijonų dolerių įvertinus po pinigų.
„Letta“ taip pat remia angelai investuotojai į AI, tokie kaip „Google“ Jeffas Deanas, Hugging Face Clem Delangue, Runway Cristóbal Valenzuela ir Anyscale Robertas Nishihara.
Įkūrė Berkeley doktorantai Sarah Wooders ir Charlesas Packeris. Tai labai lauktas DI startas. Taip yra todėl, kad tai yra Berklio „Sky Computing Lab“ vaikas ir yra populiaraus atvirojo kodo projekto „MemGPT“ komercinis subjektas.
„Berkeley's Sky Computing Lab“, vadovaujama pripažinto profesoriaus ir „Databricks“ įkūrėjo Ion Stoica, yra „RISELab“ ir „AMPLAb“ palikuonys, kurie sukūrė tokias įmones kaip „Anyscale“, „Databricks“ ir „SiFive“. Visų pirma „Sky Lab“ sukūrė daugybę populiarių atvirojo kodo didelių kalbos modelių (LLM) projektų, tokių kaip „Gorilla LLM“, „vLLM“ ir LLM struktūrinė kalba SGLang.
„Labai greitai, per metus, iš laboratorijos atsirado daugybė projektų. Tiesiog šalia mūsų sėdintys žmonės“, – apibūdino Woodersas. „Taigi tai buvo neįtikėtinas laikas“.
„MemGPT“ yra vienas iš tokių projektų ir yra tokia populiari prekė, kad ji iš tikrųjų išpopuliarėjo dar net neprasidėjus.
„Kažkas mus paėmė“, – „TechCrunch“ sakė Packeris. Įkūrėjai ketvirtadienį, 2023 m. spalio 12 d., paskelbė informacinį dokumentą ir planavo kitą pirmadienį išleisti išsamesnį dokumentą ir kodą „GitHub“. Kažkoks atsitiktinis asmuo aptiko laikraštį, paskelbė jį „Hacker News“ sekmadienį ir jis „išplito per Hacker News, kol neturėjome progos tinkamai išleisti kodo, išleisti laikraštį ar, pavyzdžiui, sukurti tviterį ar pan. “, – sakė jis.
Susijaudinimo priežastis buvo ta, kad MemGPT sumažina pavojingą LLM problemą: savo gimtojoje formoje tokie modeliai kaip „ChatGPT“ yra be pilietybės, o tai reiškia, kad jie nesaugo istorinių duomenų ilgalaikėje atmintyje. Tai sudėtinga dirbtinio intelekto programoms, kurios priklauso nuo to, ar vartotojas laikui bėgant susipažins ir mokysis iš jo – nuo klientų aptarnavimo robotų iki sveikatos priežiūros simptomų stebėjimo programų. MemGPT valdo duomenis ir atmintį, kad AI agentai ir pokalbių robotai galėtų prisiminti ankstesnius vartotojus ir pokalbius.
Įrašas popieriuje išliko Hacker News, populiarios programuotojų svetainės, valdomos Y Combinator, viršuje 48 valandas, pasakojo Packeris. Taigi jis praleido savaitgalį ir kitas kelias dienas atsakinėdamas į klausimus svetainėje, bandydamas paruošti kodą išleisti. Kai projektas buvo pasiekiamas „GitHub“, nuoroda į jį vėl paplito „Hacker News“. „YouTube“ interviu ir mokymo programos, vidutiniai įrašai, 11 000 žvaigždučių ir 1,2 tūkst. šakutės „GitHub“ įvyko greitai.
VC Felicis'as Myersas atrado Wooders ir Packer, taip pat skaitydamas apie MemGPT, ir iš karto suprato šios technologijos komercines galimybes.
„Pamačiau popierių, kai jis buvo išleistas“, – sakė ji „TechCrunch“ ir nedelsdama susisiekė su steigėjais. „Mes turėjome investavimo temą apie AI agentų infrastruktūrą ir įvertinome, kad tikrai svarbus jos komponentas buvo duomenų ir atminties valdymas, kad šie pokalbių pokalbių robotai ir AI agentai būtų veiksmingi.
Įkūrėjai vis dar beveik vaikščiojo po Sand Hill Road, skambindami Zoom su VC, prieš eidami su tuo, kuris juos pamilo pirmas.
Tuo tarpu Stoica supažindino su Deanu, Nishihara ir kitais garsiais Silicio slėnio angelais. „Daugelis Berklio profesorių, kaip tik dėl buvimo Berklyje, yra labai gerai susiję“, – prisiminė Packeris, koks lengvas buvo angelo investuotojo procesas. „Jie žiūri į šios laboratorijos projektus, kurie bus komercializuoti.
Konkurencija ir OpenAI o1 grėsmė
Nors MemGPT jau yra laukinėje gamtoje ir naudojamas, komercinis Letta variantas Letta Cloud dar nėra atviras verslui. Nuo pirmadienio „Letta“ priima beta versijos naudotojų užklausas. Ji pasiūlys prieglobos agento paslaugą, leidžiančią kūrėjams įdiegti ir paleisti būseną turinčius agentus debesyje, pasiekiamą per REST API, programavimo sąsają, galinčią palaikyti būseną. Letta Cloud saugos tam reikalingus ilgalaikius duomenis. „Letta“ taip pat pasiūlys kūrėjų įrankius dirbtinio intelekto agentams kurti.
Naudodamas „MemGPT“, Wooders mato daugybę naudojimo būdų. „Manau, kad pagrindinis mūsų matomas naudojimo atvejis yra labai suasmeninti, labai patrauklūs pokalbių robotai“, – sako ji. Tačiau yra ir pažangiausių naudojimo būdų, pavyzdžiui, „pokalbių robotas vėžiu sergantiems pacientams“, kai pacientai įkelia savo istoriją ir dalijasi nuolatiniais simptomais, kad robotas galėtų išmokti ir laikui bėgant pasiūlyti patarimų.
Verta paminėti, kad „MemGPT“ nėra vienintelis, dirbantis šiuo klausimu. „LangChain“ tikriausiai yra žinomiausias jos konkurentas ir jau siūlo komercines galimybes. Didžiausi modelių gamintojai taip pat siūlo dirbtinio intelekto agentų kūrimo įrankius, tokius kaip „OpenAI“ asistentų API.
O dėl naujojo „OpenAI“ o1 modelio naudotojams gali kilti ginčas dėl poreikio pataisyti būseną. Kadangi tai yra daugiapakopis modelis, jis iš esmės turi išlaikyti būseną tam tikru laipsniu, kad galėtų „mąstyti“ ir patikrinti faktus prieš atsakydamas.
Tačiau Woodersas, Packeris ir Myersas mato kelis esminius skirtumus nuo to, ką siūlo Letta, palyginti su tuo, ką daro 800 svarų rinkos gorila OpenAI. Letta teigia, kad ji veiks su bet kuriuo AI modeliu ir tikisi, kad jos vartotojai naudos daugelį jų: OpenAI, Anthropic, Mistral, savo pačių sukurtus modelius. OpenAI technologija šiuo metu veikia tik su savimi.
Dar svarbiau, kad „Letta“ naudoja atvirojo kodo MemGPT ir tvirtai įsitraukia į atvirojo kodo FOSS ir juodosios dėžės LLM diskusijų pusę, sakydama, kad atvirasis kodas yra geresnis pasirinkimas dirbtinio intelekto programų programuotojams.
„Mes pozicionuojame save kaip atvirą OpenAI alternatyvą“, – sako Packeris. „Manau, kad iš tikrųjų labai, labai sunku sukurti labai geras AI programas, ypač kai tau rūpi, pavyzdžiui, haliucinacijos, jei nematai, kas vyksta po gaubtu.