AI öwredilmeginde öwrülişik: Google Hope arhitekturasyny hödürledi
Häzirki zaman emeli aň (AI) modelleriniň köpüsi «katastrofik ýatdan çykarmak» diýen mesele bilen ýüzbe-ýüz bolýar: täze maglumatlarda täzeden öwredilende, öňki bilimleriň bir bölegi ýitýär. Bu ýagdaý AI-nyň ýokary ygtybarly we yzygiderli täzelenmegine päsgel döredýär. Muny çözmek üçin Google Nested Learning atly täze çemeleşmäni we onuň prototipi bolan Hope arhitekturasyny hödürledi.
Google okuw prosesini yzygiderli dowam edýän bir akym hökmünde däl-de, dürli dowamlylyga eýe bolan iç-içe ylalaşan gatlaklar ulgamy hökmünde seretmegi teklip edýär:
• Ýokarky gatlak (Haýal): Durnukly, üýtgewsiz we uzak möhlet saklanýan bilimleri jemleýär (meselem, grammatika, umumy düşünjeler).
• Aşaky gatlak (Tiz): Günlük maglumatlary çalt täzeden öwrenip bilýän ownuk komponentlerden ybarat.
Bu usulda optimizatorlar assosiatiw ýat ýaly işleýär, ýagny öň edilen düzetmeleri ýatda saklap, öňki bilimleriň gaýtadan ýitirilmeginiň öňüni alýar.
Hope prototipi we onuň artykmaçlyklary
Hope prototipi geçirilen synaglarda ýokary netijeler görkezdi. Ol dil modelirlenmesinde has gowy takyklygy we adaty transformerlerden tapawutlylykda uzyn kontekstli meselelerde has durnuklylygy görkezdi.
Eger tehnologiýa giňden tassyklansa, işewürlik ulgamlary has ygtybarly AI agentlerini döredip biler:
• Dialog wagtynda ýörite tälim geçip bilýän,
• Uzyn konteksti tygşytly peýdalanýan, ýagny öňki maglumatlary her gezek başdan işlemegi talap etmeýän.
Google-iň bellemegine görä, Hope häzirki wagtda diňe prototip, onuň netijeliligi garaşsyz synaglar arkaly tassyklanmaly.
ORIENT
