V oblasti AI sa každý deň spúšťajú nové veľké jazykové modely a veci sa menia závratným tempom. Za pár mesiacov vývoja môžeme teraz spustiť LLM podobný ChatGPT na našom počítači offline. Nielen to, môžeme vycvičiť AI chatbota a vytvorte si personalizovaného asistenta AI. Čo ma však nedávno zaujalo, je praktický prístup Microsoftu k vývoju AI. Microsoft v súčasnosti pracuje na pokročilej forme systému AI tzv JARVIS (zrejmý odkaz na Marvel's Iron Man), ktorý sa pripája k viacerým modelom AI a odpovedá konečným výsledkom. Jeho demo je hosťované na Huggingface a ktokoľvek si môže hneď teraz vyskúšať možnosti JARVIS. Takže ak máte záujem, pokračujte a naučte sa ihneď používať Microsoft JARVIS (HuggingGPT).
Obsah
Čo je Microsoft JARVIS (HuggingGPT)?
Spoločnosť Microsoft vyvinula jedinečný systém spolupráce, v ktorom je možné použiť viacero modelov AI na dosiahnutie danej úlohy. A pri tom všetkom
ChatGPT funguje ako ovládač úlohy. Projekt sa volá JARVIS na GitHub (návšteva) a teraz je k dispozícii na Huggingface (preto sa nazýva HuggingGPT), aby si ho ľudia mohli vyskúšať. Pri našom testovaní fungoval úžasne dobre s textami, obrázkami, zvukom a dokonca aj videami.Funguje to podobne, ako OpenAI demonštroval multimodálne schopnosti GPT 4 pomocou textov a obrázkov. JARVIS však ide ešte o krok ďalej a integruje rôzne open-source LLM pre obrázky, videá, zvuk a ďalšie. Najlepšie na tom je, že áno môže sa pripojiť aj na internet a pristupovať k súborom. Môžete napríklad zadať adresu URL z webovej lokality a klásť na ňu otázky. To je celkom fajn, však?
Do jedného dotazu môžete pridať viacero úloh. Môžete ho napríklad požiadať, aby vytvoril obrázok mimozemskej invázie a napísal o ňom poéziu. ChatGPT tu analyzuje požiadavku a naplánuje úlohu. Potom, ChatGPT vyberie správny model (hosťované na Huggingface) na splnenie úlohy. Vybraný model dokončí úlohu a vráti výsledok do ChatGPT.
Nakoniec ChatGPT generuje odpoveď pomocou výsledkov odvodenia zo všetkých modelov. Na túto úlohu JARVIS použil model Stable Diffusion 1.5 na vygenerovanie obrázka a na napísanie básne použil samotný ChatGPT.
Je ich toľko ako 20 modelov spojených s JARVIS (HuggingGPT). Niektoré z nich sú t5-base, stabilná difúzia 1.5, bert, Facebook bart-large-cnn, Intel dpt-large a ďalšie. Stručne povedané, ak chcete multimodálne funkcie práve teraz, pokračujte a ihneď si vyskúšajte Microsoft JARVIS. Vysvetlili sme, ako ho nastaviť a otestovať práve teraz tu:
Krok 1: Získajte kľúče na používanie Microsoft JARVIS
1. Najprv zamierte tento odkaz, prihláste sa do svojho účtu OpenAI a kliknite na „Vytvoriť nový tajný kľúč“, aby ste získali svoj OpenAI API kľúč. Uložte kľúč do súboru programu Poznámkový blok pre neskoršie použitie.
2. Potom otvorte webovú stránku huggingface.co (návšteva) a vytvorte si účet zadarmo.
3. Potom kliknite na toto odkaz na vygenerovanie tokenu objímajúcej tváre. Kliknite na "Nový token“ v pravom paneli.
4. Tu zadajte názov (ja som napríklad zadal názov „jarvis“). Potom zmeňte rolu na „Zápis“ a kliknite na „Vygenerujte token“.
5. Ďalej kliknite na „kopírovať“ a token sa skopíruje do schránky. Uložte token do súboru programu Poznámkový blok.
Krok 2: Začnite používať Microsoft JARVIS (HuggingGPT)
1. Ak chcete použiť Microsoft JARVIS, otvorte tento odkaz a vložte kľúč OpenAI API v prvom poli. Potom kliknite na „Odoslať“. Podobne prilepte token Huggingface do druhého poľa a kliknite na „Odoslať“.
2. Po overení oboch tokenov prejdite nadol a zadajte svoj dopyt. Na začiatok som sa JARVISA spýtal, o čom je fotografia a zdieľal adresu URL obrazu.
3. Automaticky stiahol obrázok a používa tri modely AI pre danú úlohu vrátane ydshieh/vit-gpt2-coco-en (previesť obrázok na text), facebook/detr-resnet-101 (pre detekciu objektov) a dandelin/ vilt-b32-finetuned-vqa (pre vizuálne- zodpovedanie otázok). Nakoniec dospel k záveru, že fotografia obsahuje mačku, ktorá sa na seba pozerá v zrkadle. nie je to úžasné?
4. V inom príklade som o to požiadal prepísať zvukový súbora urobilo to pomocou modelu OpenAI/whisper-base. Existuje mnoho prípadov použitia JARVIS a môžete si ich vyskúšať na HuggingFace zadarmo.
Použite viacero modelov AI naraz s HuggingGPT
Takto môžete HuggingGPT použiť na dokončenie úlohy pomocou rôznych modelov AI. Testoval som JARVIS niekoľkokrát a fungovalo to celkom dobre, až na to, že sa musíte dosť často dostať za front. JARVIS nemôžete spustiť lokálne na žiadnom poloslušnom počítači, pretože vyžaduje najmenej 16 GB VRAM a približne 300 GB miesta pre rôzne modely.
Aj na Huggingface ho nemôžete klonovať a preskočiť rad v rámci bezplatného účtu. Ak chcete spustiť výkonný model na Nvidia A10G – veľkom GPU, ktorý stojí 3,15 USD/hodinu, musíte sa prihlásiť na odber. Každopádne, to je od nás všetko. Ak chceš použite CodeGPT vo VS Code ak potrebujete pomoc pri programovaní, prejdite na našu prepojenú príručku. A do používať ChatGPT 4 zadarmo, máme pre vás pripravený zoznam. Nakoniec, ak máte nejaké otázky, dajte nám vedieť v sekcii komentárov nižšie.
Odporúčané články
Kroky nefungujú. Zadal som svoje správne tokeny a potom som vložil vzorový dotaz.
Nahradil riadok dopytu „Chyba“, ale bez vysvetlenia.Bolo tam tlačidlo „Duplikovať priestor“ a stlačil som ho, ale objavilo sa okno so žiadosťou o spôsob platby a veci ako LOG_HF_Token a TOKENIZERS_PARALLELISM.
Naozaj neviem, ako ich získať, a vaše vysvetlenie hovorí. Ale váš popis hovorí, že výsledky môžu byť zmiešané, takže to nemusí byť dobré využitie môjho času a peňazí. Token OpenAI nie je možné použiť zadarmo – netuším, koľko z mojich tokenov by sa na to použilo, a používateľské rozhranie je hrozné. Mohli mi aspoň povedať, prečo ma zablokovali nepopísaným slovom „Chyba“
OdpovedzteZabudli ste, že kľúč API nie je zadarmo, stojí 20 USD a predplatné GPT+ neobsahuje kľúč API.
Odpovedzte
