Օգոստոսի 29, 2019, 14:49
Խմբագրություն Hovhannisyan
223

Ուսանողները վերարտադրել են Իլոն Մասկի գաղտնի նեյրոցանցը

GPT-2 նեյրոցանց աշխատում է առանց ուսուցչի՝ մեքենայացված ուսուցման տեխնոլոգիայի հիման վրա: Այսինքն՝ ինքնուրույն է գտնում ճիշտ պատասխանը՝ տվյալներն ուսումնասիրելուց հետո:

Նեյրոնային ցանցի ուսուցում
Նեյրոնային ցանցի ուսուցում / ©mipt.ru / Հեղինակ՝ неизвестен, фото предоставлено пользователем

Բրաունի ամերիկյան մասնավոր համալսարանի երկու ուսանողներ կարողացել են վերարտադրել Իլոն Մասկի հիմնադրած OpenAI ընկերության GPT-2 նեյրոցանցը: Դրա ամբողջական տարբերակն ուսանողները չեն հրապարակել, քանի որ այն կարող էր համացանցային խարդախությունների համար օգտակար միջոց դառնալ:

OpenAI-ը GPT-2-ը ստեղծել է կապակցված տեքստը գեներացնելու համար: Այս նեյրոցանցը ռեկորդային քանակությամբ՝ 1,5 մլրդ տվյալ ունի. դա ավելի շատ է, քան, օրինակ, Google-ի BERT նեյրոցանցը: Նմանատիպ նեյրոցանցերը հիմնականում ունենում են 100-300 մլն տվյալ, իսկ ինչքան շատ են տվյալները, այնքան շատ խնդիրներ կարող է լուծել:

GPT-2-ն աշխատում է առանց ուսուցչի՝ մեքենայացված ուսուցման տեխնոլոգիայի հիման վրա: Այսինքն՝ ինքնուրույն է գտնում ճիշտ պատասխանը՝ տվյալներն ուսումնասիրելուց հետո: Նախորդ տարբերակը՝ GPT-ն, սովորել էր գրքային տեքստերից և Վիկիպեդիայից, սակայն անհրաժեշտ արդյունքը չէր տրամադրում: Այդ պատճառով GPT-2-ին սովորեցրել են 8 մլն էջ, որոնց աղբյուրը աշխարհի ամենահայտնի կայքերից մեկն է՝ Reddit-ը: Այստեղ օգտատերերը հավանած տեղեկատվության հղումներն են տեղադրում, գնահատում են մյուս օգտատերերի հղումները՝ ձևավորելով նրանց վարկանիշը, նաև շփվում են միմյանց հետ:

Նախկին սխալները չկրկնելու, ինչպես նաև գովազդը և սպամը բացառելու համար մշակողները նեյրոցանցին բոլոր հղումները չեն ուսուցանել. միայն նրանք, որոնք լավ վարկանիշ են ունեցել: Արդյունքում՝ GPT-2-ը սովորել է գեներացնել կապակցված տեքստերով ամբողջական էջեր: Այդ իսկ պատճառով 2019թ. փետրվարին OpenAI-ը հրաժարվել է հրապարակել նեյրոցանցի ամբողջական տարբերակը՝ սահմանափակվելով կրճատված կրկնօրինակով:

Տեքստում վրիպա՞կ եք գտել։ Նշեք հատվածը և սեղմեք Ctrl (Cmd) + Enter։
Հետևեք մեզ Telegram-ում, Yandex News-ում և VK-ում

Հանրաճանաչ

Սեպտեմբերի 25, 23:43
Ruslan

Հայաստանի՝ չեխական L-39 Skyfox ուսումնական ինքնաթիռներ ձեռք բերելու հնարավորության մասին ենթադրությունները կապում են երկու իրադարձության հետ՝ չբացահայտված պատվիրատուի համար չորս մեքենայի արտադրության և Վահագն Խաչատուրյանի՝ Aero Vodochody այցի։ Սակայն այս տեղեկությունները դեռ չեն հաստատում Հայաստանի հետ պայմանագրի առկայությունը։

Սեպտեմբերի 20, 13:12
Ruslan

Rocket Lab-ի Electron հրթիռը սեպտեմբերի 19-ին ուղեծիր է դուրս բերել ճապոնական Synspective ընկերության տասներկուերորդ StriX ռադարային արբանյակը։ Այն նախատեսված է Երկրի մակերևույթը դիտարկելու համար, սակայն շահագործման կհանձնվի առաջիկա ամիսների փորձարկումներից հետո։

Սեպտեմբերի 19, 16:50
Ruslan

Մասաչուսեթսի Քեյփ Քոդ թերակղզում հայտնաբերվել է Malaclemys terrapin տեսակի երկգլխանի կրիայի հազվագյուտ ձագ։ Ընդամենը մոտ 5 գրամ կշռող կենդանու մոտ առկա է բիցեֆալիա՝ զարգացման անոմալիա, որի դեպքում ձևավորվում է երկու գլուխ։ Այժմ ձագը գտնվում է Cape Wildlife Center-ի մասնագետների հսկողության տակ, որոնք հետևում են նրա սնվելուն, աճին և շարժումներին։

Սեպտեմբերի 20, 15:10
Ruslan

Bell Textron-ը Տեխասի Ամարիլոյի գործարանում սկսել է Նիգերիայի համար նախատեսված առաջին AH-1Z Viper հարվածային ուղղաթիռի արտադրությունը։ Ընկերությունը պետք է պատրաստի 12 ուղղաթիռ և արտադրությունն ավարտի 2029 թվականի սկզբին։

Սեպտեմբերի 19, 20:24
Ruslan

Lockheed Martin-ը Տեխասի Ֆորտ Ուերթ քաղաքում պաշտոնապես ներկայացրել է Գերմանիայի համար կառուցված առաջին F-35A Lightning II կործանիչը՝ «35+01» համարով։ Ինքնաթիռն իր առաջին թռիչքն իրականացրել էր սեպտեմբերի 8-ին։ Գերմանիան ընդհանուր առմամբ պատվիրել է 35 F-35A, որոնք աստիճանաբար փոխարինելու են երկրի հնացող Tornado ինքնաթիռներին։

Սեպտեմբերի 20, 13:12
Ruslan

Rocket Lab-ի Electron հրթիռը սեպտեմբերի 19-ին ուղեծիր է դուրս բերել ճապոնական Synspective ընկերության տասներկուերորդ StriX ռադարային արբանյակը։ Այն նախատեսված է Երկրի մակերևույթը դիտարկելու համար, սակայն շահագործման կհանձնվի առաջիկա ամիսների փորձարկումներից հետո։

Սեպտեմբերի 19, 16:50
Ruslan

Մասաչուսեթսի Քեյփ Քոդ թերակղզում հայտնաբերվել է Malaclemys terrapin տեսակի երկգլխանի կրիայի հազվագյուտ ձագ։ Ընդամենը մոտ 5 գրամ կշռող կենդանու մոտ առկա է բիցեֆալիա՝ զարգացման անոմալիա, որի դեպքում ձևավորվում է երկու գլուխ։ Այժմ ձագը գտնվում է Cape Wildlife Center-ի մասնագետների հսկողության տակ, որոնք հետևում են նրա սնվելուն, աճին և շարժումներին։

[miniorange_social_login]

Մեկնաբանություններ

Գրել մեկնաբանություն