Kā pievienot AI iemīļotai lietotnei (bez API atslēgām, bez papildu norēķiniem)
Atjaunināts 2025. gada 30. sep
11 min
Pievienosim AI jūsu lietotnei, nesabojājot jūsu maciņu (vai smadzenes)
Vai esat kādreiz mēģinājis salikt IKEA mēbeles bez sešstūra atslēgas? Līdzīgi jūtas AI pievienošana, kad jums saka: “Vienkārši pievienojiet savu API atslēgu un izveidojiet norēķinu kontu.” Protams, un, kamēr esmu pie tā, es arī pārvilkšu mājas vadus un palaidīšu satelītu.
Laba ziņa: jums nav nepieciešamas API atslēgas, lietojuma paneļi vai otrā hipotēka, lai pievienotu viedas, noderīgas AI funkcijas iemīļotai lietotnei. Šajā rokasgrāmatā mēs runāsim par to, kā pievienot AI iemīļotai lietotnei (bez API atslēgām, bez papildu norēķiniem), izmantojot praktiskus modeļus, platformai raksturīgas funkcijas un dažus gudrus risinājumus. Tulkojums: jūs varat piegādāt noderīgas AI funkcijas, kas lietotājiem šķiet maģiskas, nepamostoties ar rēķinu par 3842 ASV dolāriem, jo kāds izmantoja jūsu tērzēšanas lodziņu, lai uzrakstītu eposu par kartupeli.
Šī ir praktiska pamācība. Es jums parādīšu, kā izstrādāt viedas funkcijas, kur iegūt modeļus bez atslēgām un kā saglabāt izmaksas nulles līmenī (vai tuvu tam) ar AI ierīcē, servera puses ietvariem un nelielu produktu izjūtu.
Ko mēs saprotam ar “bez API atslēgām” un “bez papildu norēķiniem”
Ātrs dekodētāja gredzens:
- Bez API atslēgām: jūs nelūdzat lietotājiem ielīmēt savas atslēgas, un jūs neglabājat un nerotējat atslēgas viņu vārdā.
- Bez papildu norēķiniem: jūs nepārsūtāt savus lietotājus uz marķieru balstītu skaitītāju. Jūs vai nu izmantojat AI ierīcē, iekļaujat izmaksas savā esošajā plānā vai izmantojat dāsnus bezmaksas līmeņus, kurus kontrolējat.
Mērķis nav izvairīties no maksāšanas uz visiem laikiem. Mērķis ir izstrādāt iemīļotu lietotni ar viedu AI, kas ir paredzama, privāta un nenoved jūs pie finanšu direktora cietumā.
Iemīļotas lietotnes kontrolsaraksts: ko AI patiesībā vajadzētu darīt
- Tas uzreiz atrisina vienu sāpīgu, biežu darbu. Kopsavilkums ar vienu pieskārienu. Pārrakstīšana ar vienu klikšķi. Viena gudra meklēšana.
- Tas ir pietiekami ātrs, lai justos lokāls. Ja jūsu AI griežas kā ielādes donuts, jūs jau esat zaudējis.
- Tas pēc noklusējuma respektē privātumu. Lietotājiem nevajadzētu uzticēties noslēpumainam mākonim pamatfunkciju veikšanai.
- Tas ir izskaidrojams. Mazs mājieniņš, piemēram, “Notīrīts tonis un izlabota gramatika”, pārvērš maģiju uzticībā.
Ja jūsu funkcijas ideja neatzīmē šīs rūtiņas, jums nav nepieciešams AI. Jums vajag snaudu.
1. stratēģija: AI ierīcē (jeb MVP bez atslēgām un rēķiniem)
Vai vēlaties vienkāršāko ceļu uz “bez atslēgām, bez rēķiniem”? Palaidiet modeli lietotāja ierīcē. Tas ir kā gatavot smūtijus mājās, nevis pasūtīt 12 ASV dolāru vērtu smūtiju ar kviešu asnu.
Kur AI ierīcē uzvar:
- Privātums: dati neatstāj ierīci.
- Paredzamās izmaksas: 0 ASV dolāru par pieprasījumu. Jūsu izmaksas ir inženierzinātņu laiks un nedaudz lietotnes lielums.
- Ātrums: daudziem uzdevumiem — kopsavilkumiem, labojumiem, klasifikācijai — modernas ierīces ir pietiekami ātras.
Praktiskas iespējas:
- Izmantojiet platformai raksturīgus ietvarus:
- iOS/macOS: Apple Core ML ar nelielu valodu modeli. Lieliski piemērots klasifikācijai, toņa pielāgošanai un īsiem kopsavilkumiem.
- Android: TensorFlow Lite ar kompaktu LLM vai uzdevumam specifisku modeli.
- Darbvirsma/Web: WebGPU + WebAssembly izpildlaiki, lai pārlūkprogrammā palaistu 7B un mazākus modeļus (jā, patiešām).
- Izvēlieties mazus, bet jaudīgus modeļus:
- 3B–7B parametru modeļi var veikt gramatikas labojumus, punktu kopsavilkumus un pamata jautājumus un atbildes.
- Izmantojiet kvantizētas versijas (piemēram, 4 bitu), lai samazinātu atmiņu un ielādes laiku.
- UX modeļi, kas spīd ierīcē:
- Poga “Pārrakstīt” ar atlasāmiem toņiem: draudzīgs, kodolīgs, formāls.
- “Apkopot atlasi” dokumentiem, e-pastiem vai piezīmēm.
- “Izvilkt rīcības vienumus” no sanāksmju piezīmēm.
- “Meklēt šajā lapā” semantiskais meklētājs.
Padoms: piedāvājiet “Ātro režīmu” (ierīcē) un papildu “Jaudas režīmu” (mākonī) — nav nepieciešamas atslēgas. Vairāk par to pēc minūtes.
2. stratēģija: Atnesiet savu modeli… bet ne savu lietotāju atslēgas
Jūs joprojām varat izmantot mākoņu modeļus, neizsniedzot lietotājiem atslēgu piekariņu. Jūs paslēpjat atslēgu savā serverī, ierobežojat zvanu ātrumu un ierobežojat izmaksas. No lietotāja viedokļa nav API atslēgas, un no jūsu viedokļa nav nekontrolēta norēķina.
Kā to izdarīt droši:
- Servera puses starpniekserveris: jūsu lietotne zvana jūsu serverim; jūsu serveris zvana modeļa nodrošinātājam. Jums pieder droselis.
- Budžeta aizsargmargas: iestatiet dienas vai mēneša tēriņu ierobežojumus, kvotas katram lietotājam un taimautus.
- Kešatmiņa: kešatmiņā bieži tiek rādīti uzvednes un rezultāti, lai samazinātu zvanus.
- Kad sasniedzat ierobežojumus, atgriezieties pie AI ierīcē, nevis kļūdas ekrāna.
Kad to izmantot:
- Jums ir nepieciešami labāki argumenti, ilgāks konteksts vai multimodāls atbalsts nekā to var nodrošināt neliels lokālais modelis.
- Jūs vēlaties, lai bezmaksas plāns būtu vienkāršs, vienlaikus piedāvājot maksas līmeņus ar lielāku jaudu — joprojām neatklājot atslēgu.
3. stratēģija: iepriekš sagatavojiet informāciju (veidnes pārspēj marķierus)
Šeit ir noslēpums, ko apgūst katrs lielisks AI produktu vadītājs: lielākā daļa lietotāju nevēlas “likt uzvednes”. Viņi vēlas pogas, kas dara pareizo.
Izveidojiet savu AI, pamatojoties uz veidnēm un strukturētām darbībām, nevis neapstrādātiem tērzēšanas lodziņiem. Jūs iegūsiet labākus rezultātus, mazāk marķieru un mazāk izņēmuma gadījumu.
Veidņu piemēri, kas šķiet iemīļoti:
- “Padariet to draudzīgāku, bet saglabājiet to pašu nozīmi.”
- “Izvelciet datumus, vārdus un darbības vienumus no šī teksta.”
- “Ģenerējiet trīs alternatīvus virsrakstus, kas nepārsniedz 60 rakstzīmes.”
- “Pārvērtiet šo sanāksmes transkripciju par darba kārtību ar īpašniekiem un izpildes datumiem.”
Jūs varat palaist tos ar sīkiem modeļiem ierīcē vai pēc vajadzības pāriet uz mākoni. Jebkurā gadījumā jūs kontrolējat uzvedni — tāpēc kontrolējat izmaksas un kvalitāti.
4. stratēģija: izmantojiet izguvi, lai izskatītos gudri, daudz nedomājot
Lieli modeļi halucinē. Sīki modeļi halucinē ātrāk. Izgūšana neļauj abiem izdomāt lietas.
- Izveidojiet lietotāja satura (dokumentu, piezīmju, biļešu) lokālo indeksu un vispirms veiciet semantisko meklēšanu.
- Ievadiet savam modelim tikai labākos fragmentus. Mazāka uzvedne, labāka precizitāte.
- Lietotnēm, kurās prioritāte ir privātums, glabājiet indeksu lokāli, lai nekas neatstātu ierīci.
Rezultāts: jūsu lietotne izskatās izcili, kamēr jūsu modelis veic mazāk darba. Padomājiet par to kā par AI atvērto grāmatu testu, nevis lūdzot to atcerēties visu bibliotēku.
5. stratēģija: piedāvājiet bezsaistes režīmu ar papildu tiešsaistes lielvarām
Jūsu lietotāji atrodas lidmašīnās, vilcienos un dažreiz pagrabā ar vienu joslu. Padariet savu AI darbu bezsaistē. Pēc tam, kad ir izveidots savienojums, piedāvājiet izvēles “Jaudas režīmu”.
Kā tas notiek:
- Bezsaistē: pamata pārrakstīšana, apkopošana un izvilkšana, izmantojot modeļus ierīcē.
- Tiešsaistē: lielāki konteksta logi, labāki argumenti un attēlu izpratne, izmantojot jūsu servera starpniekserveri.
- UI: maza pārslēgšanas poga “Zibens”, kas izskaidro kompromisu: “Ātrāks un privāts (bezsaistē)” pret “Gudrāks, bet izmanto mākoni (tiešsaistē)”.
Nav nepieciešamas atslēgas; nav pārsteiguma rēķinu. Vienkārši izvēle.
6. stratēģija: aizsargmargas, kas nodrošina, ka funkcijas ir iemīļotas, nevis tiesas prāvas
Iemīļota lietotne ir noderīga, paredzama un… garlaicīgi droša. Iebūvējiet aizsargmargas:
- Satura filtri: bloķējiet kaitīgas vai ārpus politikas esošas uzvednes, pirms tās sasniedz kādu modeli.
- Caurspīdīgi marķējumi: atzīmes “AI ģenerēts” ar rediģēšanas vēsturi.
- Atkārtojamība: reģistrējiet uzvednes un iestatījumus lokāli (ar lietotāja piekrišanu), lai rezultātus varētu atkārtot.
- Izvēles atteikšanās no apmācības: ja kaut ko precizējat, jautājiet. Un padariet “Nē” par vienkāršu pogu.
Projekts: kā pievienot AI iemīļotai lietotnei (bez API atslēgām, bez papildu norēķiniem)
Pārvērtīsim to par soli pa solim, no salvešu skices līdz piegādātai funkcijai.
- Izvēlieties vienu darbu, ko automatizēt
- Izvēlieties vienu biežu uzdevumu, ko jūsu lietotāji veic katru dienu. Piemērs: “Apkopojiet atlasīto tekstu piecos punktos.”
- Uzrakstiet panākumu līniju vienkāršā angļu valodā: “Lietotājs iezīmē tekstu, pieskaras Apkopot, iegūst piecus skaidrus punktus mazāk nekā divās sekundēs.”
- Izvēlieties savu pēdas nospiedumu: vispirms ierīcē
- Sāciet ar mazu kvantizētu modeli. Saglabājiet nelielas kravnesības, kešatmiņā saglabājiet modeli pēc pirmās palaišanas.
- Iestatiet stingru marķiera ierobežojumu. Ja teksts ir garš, sadaliet to un apkopojiet pa fragmentiem.
- Izveidojiet veidni, nevis tērzēšanas lodziņu
- Iekodējiet instrukciju ar pāris precīziem piemēriem. Atklājiet tikai lietotājam redzamus regulatorus, kas ir svarīgi: tonis, garums.
- Rezultātiem pievienojiet skaidrojuma rindiņu: “Saīsināts skaidrības labad. Noņemts pildviela.”
- Konteksta pievienošana, lai atgūtu
- Ja tiek apkopots dokuments, kas atsaucas uz citiem dokumentiem, indeksējiet lokāli un ievietojiet atbilstošās daļas.
- Rādiet avotus ar pieskaramiem citātiem. Uzticība ir funkcija.
- Izstrādājiet Jaudas režīmu (pēc izvēles)
- Ja bezsaistes rezultāti ir vāji izņēmuma gadījumiem, pievienojiet mākoņa “Jaudas režīmu”.
- Maršrutējiet caur savu serveri, nevis lietotāja atslēgu. Pievienojiet kvotas un dienas ierobežojumus.
- Pārbaudiet par prieku, ne tikai par precizitāti
- Izmēriet laiku līdz pirmajam marķierim un pabeigšanas laiku.
- A/B testa kopija: “Pārrakstīt” pret “Pulēt”. Spoilers: vārdiem ir nozīme.
- Reģistrējiet lietotāju rediģējumus pēc AI izvades (ar piekrišanu). Ja visi rediģē pirmo punktu, jūsu veidnei ir nepieciešams darbs, nevis lielāks modelis.
- Nosakiet cenu bez papildu norēķinu drāmas
- Iekļaujiet AI funkciju savos esošajos plānos.
- Izmantojiet mīkstos ierobežojumus: “20 Jaudas režīma palaišanas reizes dienā Pro versijā.”
- Piedāvājiet neierobežotu bezsaistes palaišanas skaitu — jo ierīcē tas ir bez maksas.
Reālās pasaules scenāriji, kas patiešām darbojas
Trīs kodolīgas receptes, kuras varat piegādāt šajā mēnesī, bez atslēgām, kas nepieciešamas pamata pieredzei:
- Pieklājīgā poga
- Darbs: notīriet e-pastu un ziņojumu toni.
- Kā: modelis ierīcē ar fiksētu uzvedni, lai saglabātu nozīmi, novērstu gramatikas problēmas un pielāgotu toni.
- UX: iekļauta rediģēšanas priekšskatījums ar pārslēgšanas pogu Draudzīgs, Formāls, Kodolīgs. Rādiet atšķirības, lai lietotāji mācītos.
- Tūlītējas minūtes
- Darbs: pārvērtiet sanāksmju piezīmes par rīcības vienumiem.
- Kā: Fragmentu apkopošana ierīcē, pēc tam pēc izvēles Jaudas režīms garām transkripcijām.
- UX: rezultāti, kas grupēti pēc īpašnieka ar ieteikumiem par izpildes datumiem. Pieskaroties, lai kopētu savā uzdevumu rīkā.
- Super meklēšana
- Darbs: atrodiet atbilstošu informāciju lietotāja dokumentos.
- Kā: Lokāls vektoru indekss + sekla LLM sintēzei.
- UX: iezīmē ar avotu saitēm un piezīmi “Kāpēc šis rezultāts?”. Šķiet, ka Ctrl+F ir ieguvis doktora grādu.
Veiktspējas padomi, lai jūsu AI nejustos kā dial-up
- Iesildiet modeli lietotnes palaišanas laikā ar nelielu manekena secinājumu, lai pirmais pieprasījums nebūtu lēns.
- Kešatmiņā ieguldes un daļējus rezultātus; izmantojiet tos atkārtoti starp sesijām.
- Straumējiet atbildes un renderējiet pa rindai. Cilvēkiem patīk just progresu, pat ja tie ir tikai trīs dejojoši punkti.
- Kontrolējiet uzvednes. Veidnes > esejas.
Privātums bez 10 lappušu manifesta
- Pēc noklusējuma izmantojiet lokālo apstrādi. Padariet mākoņa apstrādi par izvēles iespēju katrai funkcijai.
- Paskaidrojiet vienā teikumā: “Tas darbojas jūsu ierīcē. Nekas netiek augšupielādēts.” Vai: “Tas izmanto mūsu serveri. Anonimizēts, nekad netiek pārdots.”
- Nodrošiniet datu dzēšanas pogu ar vienu pieskārienu. Neviens nevēlas e-pasta ķēdi, lai izdzēstu savu pārtikas preču sarakstu no 2021. gada.
Vērts atzīmēt: ērts kopilots šim ceļojumam
Vērts atzīmēt: ja vēlaties AI veselā saprāta pārbaudi, kamēr prototipējat uzvednes, Sider.AI var atrasties jūsu pārlūkprogrammā kā draudzīgs kaimiņš, kurš patiešām lasa HOA noteikumus. Varat izstrādāt uzvednes, salīdzināt izvades un ātri atkārtot veidnes, pirms tās iekļaujat savā lietotnē — nezaudējot pusi ducis informācijas paneļu. Tas nav reklāmas, tas ir īsceļš.
Piecu minūšu integrācijas plāns (jeb jūsu lipīgā piezīme)
- Sāciet ar vienu darbu. Piegādājiet mazāko iemīļoto versiju.
- Palaidiet to ierīcē ar kompaktu, kvantizētu modeli.
- Ietiniet to veidnē, nevis tērzēšanas lodziņā.
- Pievienojiet izguvi, lai izskatītos gudri, nevis gaišreģi.
- Piedāvājiet Jaudas režīmu, izmantojot savu serveri ar stingriem ierobežojumiem.
- Marķējiet visu skaidri. Privātums pirmajā vietā. Prieks otrajā vietā. Viss pārējais trešajā vietā.
No kā izvairīties, lai jūsu lietotne nekļūtu par AI infomercial
- Maģiskā zizļa slazds: nesoliet, ka tas “raksta kā cilvēks”. Tas raksta kā AI, kas ir dzēris kafiju.
- Neierobežoti apgalvojumi: marķieru mērītāji vienmēr atrod veidu, kā sabojāt labu dienu.
- Uzvedņu rotaļlaukumi galalietotājiem: lieliski piemērots demonstrācijām, bet meh ikdienas lietošanai.
- Viens modelis, kas piemērots visiem: izvēlieties mazāko lietu, kas veic darbu. Lielāks nav labāks; labāks ir labāks.
Ātrs Q&A skeptiskajam produktu vadītājam
- “Vai mēs tiešām varam to izdarīt bez API atslēgām?” Jā. Vispirms ierīcē, servera starpniekserveris pēc izvēles. Lietotāji nekad neredz atslēgas.
- “Kā ar kvalitāti?” Koncentrētiem uzdevumiem mazi modeļi ir pārsteidzoši lieliski — īpaši ar izguvi un veidnēm.
- “Vai mēs pāraugsim lokālos modeļus?” Varbūt. Tam ir paredzēts Jaudas režīms. Piesaistiet to savam plānam, nevis lietotāja kredītkartei.
- “Kā mēs novēršam pārsteigumus?” Ierobežojumi, kešatmiņa un skaidra bezsaistes noklusējums. Jūs esat pieaugušais istabā.
Neliels gadījuma pētījums trīs rindkopās
Maza piezīmju lietotne pievienoja ierīcē pogu “Apkopot”. Tas palaida 4 bitu 3B modeli ar fiksētu veidni un 500 marķieru ierobežojumu. Vidējais atbildes laiks: 1,6 sekundes jaunākajos tālruņos.
Lietotājiem tas patika ikdienas fragmentiem, bet sūdzējās par garām pētniecības piezīmēm. Komanda pievienoja papildu Jaudas režīmu, kas tika maršrutēts caur savu serveri ar kvotām katram lietotājam dienā. Apmierinātība pieauga, izmaksas palika paredzamas.
Triks: atbalsta biļešu skaits samazinājās, jo nebija jāstrādā ar API atslēgām, nebija e-pastu “Kāpēc man tika iekasēti 27 ASV dolāri?” un nebija biedējošu ekrānu ar ātruma ierobežojumiem.
Noslēgums: jūsu iemīļotā AI lietotne, atņemot norēķinu paģiras
Šeit ir luga: izveidojiet vienu fokusētu AI funkciju, kas darbojas bezsaistē. Ietiniet to veidnē, ko lietotāji saprot. Uzlabojiet to ar izguvi. Piedāvājiet ierobežotu Jaudas režīmu, ko kontrolē jūsu serveris. Esiet godīgi par privātumu. Un pārbaudiet prieku tā, it kā tas būtu jūsu darbs — jo tāds tas ir.
Tā jūs pievienojat AI iemīļotai lietotnei (bez API atslēgām, bez papildu norēķiniem). Tagad, ja vien IKEA piegādātu kvantizētu sešstūra atslēgu.
FAQ
Q1:Vai es varu pievienot AI funkcijas, nelūdzot lietotājiem API atslēgas?
Jā. Palaidiet mazus modeļus ierīcē pamata funkcijām un, ja nepieciešams, maršrutējiet mākoņa zvanus caur savu servera starpniekserveri ar ierobežojumiem. Lietotāji nekad nepieskaras atslēgām, un jūs saglabājat paredzamus tēriņus.
Q2:Vai AI ierīcē būs pietiekami precīzs manai lietotnei?
Koncentrētiem darbiem, piemēram, pārrakstīšanai, apkopošanai un izvilkšanai, kompaktie modeļi darbojas lieliski — īpaši ar veidnēm un izguvi. Saglabājiet sarežģītus argumentus vai milzīgu kontekstu papildu Jaudas režīmam.
Q3:Kā es varu izvairīties no pārsteiguma AI izmaksām bez papildu norēķiniem?
Pēc noklusējuma izmantojiet apstrādi ierīcē un kešatmiņā agresīvi. Mākoņa pastiprinājumiem iestatiet servera puses kvotas, dienas ierobežojumus un taimautus — pēc tam vienmērīgi atgriezieties pie vietējiem rezultātiem.
Q4:Kāds ir labākais UX AI, ko lietotāji patiešām mīl?
Pogas, kas labi veic vienu darbu, pārspēj atvērtu tērzēšanu. Izmantojiet veidnes ar skaidriem toņiem un garumiem, parādiet atšķirības vai paskaidrojumus un marķējiet privātumu: bezsaistes pret mākoņa Jaudas režīmu.
Q5:Kā es varu nodrošināt AI privātumu un atbilstību?
Apstrādājiet lokāli pēc noklusējuma, atklājiet, kad izmantojat mākoni, un nodrošiniet datu dzēšanu ar vienu pieskārienu. Pievienojiet satura filtrus un citējiet avotus, lai veidotu uzticību bez privātuma romāna.
Jaunākie raksti
Kā apgūt ChatPDF: ātrāka ieskatu iegūšana no blīviem dokumentiem
Labākā X automātiskās tulkošanas alternatīva ātriem un precīziem dokumentiem
Samsung AI tulkošana Irānā nav pieejama? Praktiski risinājumi
Persiešu tulkošanas rīki: praktisks ceļvedis ātrākam un precīzākam darbam
Labākā Grok alternatīva dziļām, atsaucēm bagātām pētniecībām
Top 15 AI attēlu ģeneratora funkcijas, kuras jūs patiešām izmantosiet