Ar kada nors norėjote, kad dirbtinis intelektas būtų ir beprotiškai galingas, ir pakankamai atviras, kad paprasti mirtingieji – studentai, startuoliai ir, taip, jūsų pusbrolis, kuris vis dar naudoja „password“ kaip slaptažodį – iš tikrųjų galėtų juo naudotis? Tai ir yra esminė idėja, slypinti už Reflection AI, jaunos laboratorijos, kuri pateikia labai drąsų pažadą: sukurti „pažangų atvirą intelektą“ ir padaryti jį prieinamą visiems. Ar tai ambicinga? O taip. Bet tai taip pat yra būtent toks šūvis į mėnulį, kurį smagu stebėti technologijų pasaulyje – ir kartais už jį palaikyti.
Prieš pasinerdami į detales, trumpai apie painiavą. Frazė „reflection in AI“ (atspindys dirbtiniame intelekte) jau turi reikšmę kompiuterių moksle: tai agentai, kurie kritiškai vertina savo darbą ciklais – kaip rašytojas, kuris rašo juodraščius, peržiūri juos, dūsauja ir taiso. Netgi yra vis daugiau demonstracinių pavyzdžių, rodančių, kad „save atspindintys agentai“ pateikia geresnius rezultatus per įdėtus pokalbius. Pagalvokite apie tai kaip apie dirbtinį intelektą su įmontuotu redaktoriumi, sėdinčiu ant peties, pasiruošusiu rašyti raudonu rašikliu.
Reflection AI įmonė filosofiškai susijusi su šia idėja – ambicingi modeliai, dažnai paruošti agentams, kurie gali mokytis ir tobulėti – bet tai taip pat yra startuolis su misijos pareiškimu, įdarbinimo puslapiu ir, pastaruoju metu, labai garsiais antraštėmis.
Kas yra Reflection AI vienu įkvėpimu?
- Pažangaus dirbtinio intelekto laboratorija, bandanti sukurti moderniausius modelius su atvirais svoriais – tokius, kuriuos galite atsisiųsti, tiksliai sureguliuoti ir paleisti, nereikalaujant parduoti savo namo, kad sumokėtumėte API mokesčius.
- Komanda, pozicionuojanti save kaip Amerikos atvirą iššūkį uždariems, galingiems modeliams – pagalvokite apie tai kaip apie nenuoramų garažo grupę, įsikuriančią gatvėje priešais įrašų kompanijos dangoraižį.
- Misija, apgaubta dviem frazėmis, kurias matysite dažnai: pažangus atviras intelektas ir prieinamumas visiems.
Kodėl tai svarbu paprastiems žmonėms
Jei kada nors bandėte ką nors rimto sukurti su uždarais dirbtinio intelekto modeliais, žinote taisykles: puikus veikimas, bet nenuspėjamos išlaidos, greičio apribojimai ir įkyrus jausmas, kad nuomojatės savo supergalias iš nuomotojo, kuris gali pakeisti spynas. Atviro svorio modeliai apverčia šią lygtį. Jūs prisiimate daugiau atsakomybės – prieglobą, saugumą, atnaujinimus – bet įgyjate kontrolę, nuspėjamumą ir dažnai privatumą. Kitaip tariant, „jūs turite raktą“ užuot mokėję už jo pasiskolinimą.
Misija: atverti ribas
Reflection AI misija yra gaiviai konkreti: sukurti pažangų atvirą intelektą, prieinamą asmenims ir agentams, o ne tik didelio biudžeto įmonėms. Frazė „atviri svoriai“ yra raktas. Jei galite atsisiųsti svorius, modelis tampa ištekliumi, kurį galite paleisti vietoje, prijungti prie savo rinkinio arba įdiegti į savo programą be mokesčio už kiekvieną kartą, kai jūsų vartotojai kvėpuoja.
Po gaubtu: apie kokias technologijas mes kalbame?
- Pažangaus masto kalbos modeliai. Jei įsivaizduojate geriausius šių dienų LLM – daugelio milijardų parametrų žvėris, apmokytus ant teksto vandenynų – esate teisingame žaidimų aikštelėje.
- Pasirengimas agentams. Pramonė linksta prie autonominių sistemų, kurios gali planuoti, naudoti įrankius ir peržiūrėti savo darbą – taip, vėl ta „atspindžio“ sąvoka. Tikėkitės architektūros, mokymo ir vertinimo, kurie atlygina už savęs taisymą, įrankių naudojimą ir iteracinį argumentavimą.
- Atviras modelio platinimas. Tai ne tik šūkis; tai pozicija dėl licencijavimo, ekosistemos ir bendruomenės indėlio – kaip modeliai plinta, tobulėja ir tampa saugesni laikui bėgant.
Parodykite man kvitus
Įmonė surinko akis atveriantį kapitalą bet kokiu atveju – signalas, kad „atviros ribos“ idėja rezonuoja ir kad rėmėjai nori vidaus, atviros alternatyvos esamiems dalyviams. Subtekstas: konkurencija yra sveika, o atviri modeliai verčia visus kelti savo lygį.
Bet ar „atviras dirbtinis intelektas“ nėra miglota sąvoka?
Tai gali būti. „Atviras“ gali reikšti:
- Atviri svoriai: galite atsisiųsti ir paleisti modelį patys.
- Atviras šaltinis: gaunate kodą, svorius ir kartais duomenis.
- Atvira prieiga: liberalios API, jei ne svoriai.
Reflection AI kalba daugiausia dėmesio skiria atviriems svoriams. Tai yra praktinis vidurys daugeliui komandų: jums nereikia didžiulio mokymo klasterio, kad gautumėte naudos – galite tiksliai sureguliuoti, įdiegti ir laikyti jį privačiu.
Kaip tai vyksta realiame gyvenime
Įsivaizduokite vidutinio dydžio startuolį, kuriam reikia dirbtinio intelekto palaikymo agento. Su uždaru modeliu jų mėnesio sąskaita išsipučia, kai vartotojai susirenka. Su atviro svorio modeliu jie gali patys susikurti prieglobą. Tam reikia DevOps riebalų – bet santaupos gali būti dramatiškos, o duomenys lieka jų serveriuose. Sveikatos priežiūros srityje ši privatumo kontrolė gali būti skirtumas tarp „mes išbandysime tai“ ir „mūsų teisininkai nualpo.“
Taigi, kas yra „atspindys“ Reflection AI?
Moksliniuose tyrimuose atspindys yra tas meta-pažintinis ciklas – agentas patikrina savo atsakymą, pats save kritikuoja ir bando dar kartą. Jei matėte demonstracinių pavyzdžių, kai dirbtinis intelektas „kalbasi su savimi“, kad pašalintų plano klaidas, tai yra ta nuotaika. Kaip prekės ženklo idėja, Reflection AI remiasi tuo etosu: modeliai, kurie yra ne tik plepūs – jie yra mąslūs, pataisomi ir geriau atlieka kelių žingsnių užduotis.
Kas gali nutikti ne taip? (Skeptiko kampelis)
- Atviri svoriai nėra nemokamas saugos planas. Jei kas nors gali paleisti modelį, blogi aktoriai taip pat gali. Tai reiškia, kad laboratorija turi daug investuoti į apsaugos priemones, vertinimus ir atsakingas išleidimo strategijas.
- Skaičiavimas neauga ant medžių. Pažangaus modelio mokymas yra nepaprastai brangus – doleriai, elektra ir kantrybė. Tvarumas ir nuolatinės inovacijos priklausys nuo partnerių ekosistemų ir efektyvių mokymo triukų.
- Ažiotažas yra labiausiai atsinaujinantis pasaulio išteklius. „Pažangus“ automatiškai nereiškia „geriau jūsų programai“. Visada išbandykite su savo duomenimis ir užduotimis.
Kur Sider.AI tinka
Jei eksperimentuojate su agentais arba lyginate modelius, Sider.AI siūlo prieinamus, praktinius paaiškinimus ir įrankių apžvalgas – kai kurie netgi liečia save atspindinčius agentų modelius. Tai naudinga vieta pamatyti, kaip atspindintys ciklai veikia praktiškai ir kur jie sugenda juokingais, žmogiškais būdais. Pavyzdžiui, reklamos kūrybininkams ar turinio kanalams svetainės straipsniai apie dirbtinio intelekto vaizdus ir autonominių agentų būklę yra geras „turistinis autobusas“ po apylinkes – naudingas, kai nusprendžiate, ar atviro svorio pažangus modelis tinka jūsų darbo eigai. Praktiškai: kaip patikrinti Reflection AI pažadą
- Patikslinkite savo naudojimo atvejį.
- Intensyvus paieškos procesas? Jums reikės modelių, kurie gerai elgtųsi su RAG ir struktūrizuotu įrankių naudojimu.
- Kūrybinis generavimas? Teikite pirmenybę modeliams, kurie laikosi glaustai, bet gali improvizuoti nenukrypdami nuo kurso.
- Agentai? Ieškokite patikimo funkcijų iškvietimo, atminties ir iteracinio savęs taisymo.
- Sukurkite „dienos iš gyvenimo“ etaloną.
- Nebandykite tik su smulkmenomis. Pateikite jam savo palaikymo žurnalus, produktų dokumentus ir tipinius vartotojų raginimus.
- Išmatuokite tikslumą, užsispyrimą (ar jis pripažįsta neapibrėžtumą?) ir delsą.
- Išbandykite atviro svorio pagrindus.
- Atsisiųskite gerai vertinamą atvirą modelį, paleiskite jį vietoje arba per valdomą prieglobą ir tiksliai sureguliuokite mažą dalį su savo duomenimis.
- Palyginkite išlaidas esant realiam srautui. Vieno modelio centai gali būti kito modelio turtas.
- Raginimas kraštutinių atvejų: politikos laikymasis, privatumui jautrūs duomenys, haliucinacijų spąstai.
- Sukurkite raudonosios komandos raginimus, atitinkančius jūsų sritį („Kaip aš galėčiau... nepažeisti įstatymo, ačiū?“) ir patikrinkite atsakymus.
- Iteruokite su atspindžio stiliaus raginimais.
- Paprašykite modelio patikrinti savo darbą: „Išvardykite prielaidas. Kas gali būti negerai? Pataisykite.“
- Naudokite grandininio mąstymo alternatyvas, tokias kaip struktūrizuoti užrašų bloknotai arba įrankiais patvirtinti žingsniai.
Ko tikėtis, kai Reflection AI subręs
- Išleidimo dažnis: tikėkitės anonsų, įvertinimų ir galiausiai atsisiunčiamų svorių. Įdarbinimo kalba aiškiai rodo, kad modeliai siekia rimtų, šiuolaikinių galimybių.
- Ekosistemos gravitacija: jei modeliai veikia gerai, tikėkitės greito tikslinimo, adapterių ir trečiųjų šalių įrankių rinkinių.
- Neišvengiamos palyginimo diagramos: kai erdvė įkais, pamatysite „atvirų prieš uždarus“ išbandymus ir daugybę triukšmingų lyderių lentelių ekrano nuotraukų. Atsineškite druskos.
Greitas realybės patikrinimas dėl veikimo
Atviro svorio konkurentai mažino atotrūkį su didžiausiais uždarais modeliais atliekant daugelį užduočių. Tačiau paskutinė mylia – įrankių patikimumas, niuansuotas argumentavimas, subtilus saugumas – yra sunkiausia. Ten padeda atspindžio kilpos ir agentų pastoliai, bet jie taip pat padidina sudėtingumą. Svajonė yra modelis, kuris aiškiai argumentuoja, cituoja šaltinius, paklūsta įrankiams ir priešinasi haliucinacijoms... be penkiolikos lankų ir lietaus šokio.
Išlaidos, privatumas ir kontrolė: atviro svorio triada
- Išlaidos: jei vykdote rimtą apimtį, atviri svoriai gali sutramdyti jūsų debesies sąskaitą.
- Privatumas: laikykite duomenis savo teritorijoje. Tai dažnai yra skirtumas tarp CFO surauktų antakių ir CTO „duok penkis“.
- Kontrolė: sureguliuokite tai, kas svarbu, užšaldykite tai, kas ne, ir nustokite jaudintis, kad kitos savaitės API pakeitimas sugadins jūsų programą.
Kada nereikėtų pasirinkti atviro svorio pažangaus modelio
- Jums reikia greitos, paruoštos naudoti magijos mažam darbo krūviui: talpinamas uždaras modelis gali būti paprastesnis.
- Jūsų komanda negali palaikyti infrastruktūros: valdomas atviro svorio priegloba yra pasirinkimas, tačiau vis tiek padeda turėti suaugusį DevOps žmogų kambaryje.
- Jūsų verslas gyvena arba miršta dėl absoliučios kraštutinės kokybės: geriausi uždari modeliai vis dar laimi kai kurias užduotis. Išmatuokite prieš vesdami.
Greita nukrypimas: autonominiai agentai ir klausimas „ar mes jau atvykome?“
Ar kada nors stebėjote, kaip kūdikis pirmą kartą apsiauna batus? Tai yra agentai: puikūs ir nerangūs. Jie gali planuoti ir naudoti įrankius, bet kartais surišia raištelius kartu. Autonominių agentų apžvalgos rodo didelį pažadą ir didelius įspėjimus. Jums reikės griežtų apsaugos priemonių, aprėptų užduočių ir suaugusio žmogaus kilpoje. Atspindžio triukas – priversti agentą kritikuoti save, bandyti iš naujo ir patikrinti – gali pridėti smegenų, bet ir delsos. Naudokite jį, kai rizika pateisina laukimą.
Esminis dalykas apie Reflection AI
Reflection AI užima drąsią, savalaikę poziciją: stumti ribas, laikyti jas atviras ir padaryti jas tikrai naudojamas mums visiems. Jei jiems pavyks, kūrėjai gaus daugiau kontrolės, įmonės gaus sveikesnes sąskaitas, o dirbtinio intelekto ekosistema gaus sveiką konkurencijos šuolį. Jei ne – na, todėl mes testuojame, tikriname ir laikome planą B.
Vienas paskutinis dalykas – jūsų veiksmų planas
- Stebėkite Reflection AI leidimus ir licencijavimą. Atsisiunčiami svoriai yra požymis.
- Kurkite mažus, realius etalonus su savo duomenimis. Jokių daugiau „labas pasauli“ tuštybės testų.
- Įtraukite atspindžio stiliaus patikrinimus, kai rezultatas yra svarbus.
- Pradėkite nuo bandomojo srauto. Didinkite mastelį tik tada, kai skaičiai priverčia jus šypsotis.
Nes jei yra vienas dalykas, kurio mus nuolat moko technologijos, tai yra šis: geriausias būdas numatyti ateitį yra sukurti jos prototipą – pageidautina su modeliu, su kuriuo iš tikrųjų galite žaisti.
DUK
Q1:Kas yra Reflection AI paprastais žodžiais?
Reflection AI yra startuolis, kuriantis pažangius atviro svorio AI modelius, kuriuos iš tikrųjų galite atsisiųsti ir paleisti. Tikslas yra galingas AI, prieinamas asmenims ir agentams, o ne tik turtingoms įmonėms.
Q2:Kuo Reflection AI skiriasi nuo „atspindžio“ AI tyrimuose?
„Atspindys“ tyrimuose reiškia agentus, kurie kritikuoja ir tobulina savo atsakymus; Reflection AI įmonė dalijasi ta dvasia, bet daugiausia dėmesio skiria pažangių, atviro svorio modelių išleidimui. Praktiškai galite naudoti atspindžio stiliaus raginimus su bet kuriuo pajėgiu modeliu, kad padidintumėte patikimumą.
Q3:Kodėl man turėtų rūpėti atviro svorio modeliai?
Atviri svoriai suteikia jums išlaidų kontrolę, privatumą ir lankstumą – galite tiksliai sureguliuoti, įdiegti savo rinkinyje ir išvengti netikėtumų už kiekvieną skambutį. Reguliuojamoms pramonės šakoms arba didelio tūrio programoms tai gali pakeisti žaidimą.
Q4:Ar autonominiai agentai yra paruošti gamybai?
Jie yra galingi, bet išrankūs: puikūs aprėptoms užduotims su geromis apsaugos priemonėmis, mažiau – bet kam, kur klaidos yra brangios. Pridėkite atspindžio kilpas ir žmogaus priežiūrą, kad jie būtų sąžiningi.
Q5:Kur galiu sužinoti, kaip iš tikrųjų veikia atspindžio stiliaus agentai?
Ieškokite save atspindinčių agentų demonstracinių pavyzdžių, kuriuose rodomi įdėti kritiniai vertinimai ir bandymai iš naujo; jie leidžia greitai suprasti sąvoką. Praktiniai paaiškinimai ir įrankių apžvalgos padeda pamatyti, kur atspindys padidina tikslumą ir kur jis tik prideda vėlavimą.
