223

Ուսանողները վերարտադրել են Իլոն Մասկի գաղտնի նեյրոցանցը

GPT-2 նեյրոցանց աշխատում է առանց ուսուցչի՝ մեքենայացված ուսուցման տեխնոլոգիայի հիման վրա: Այսինքն՝ ինքնուրույն է գտնում ճիշտ պատասխանը՝ տվյալներն ուսումնասիրելուց հետո:

Նեյրոնային ցանցի ուսուցում
Նեյրոնային ցանցի ուսուցում / ©mipt.ru / Հեղինակ՝ неизвестен, фото предоставлено пользователем

Բրաունի ամերիկյան մասնավոր համալսարանի երկու ուսանողներ կարողացել են վերարտադրել Իլոն Մասկի հիմնադրած OpenAI ընկերության GPT-2 նեյրոցանցը: Դրա ամբողջական տարբերակն ուսանողները չեն հրապարակել, քանի որ այն կարող էր համացանցային խարդախությունների համար օգտակար միջոց դառնալ:

OpenAI-ը GPT-2-ը ստեղծել է կապակցված տեքստը գեներացնելու համար: Այս նեյրոցանցը ռեկորդային քանակությամբ՝ 1,5 մլրդ տվյալ ունի. դա ավելի շատ է, քան, օրինակ, Google-ի BERT նեյրոցանցը: Նմանատիպ նեյրոցանցերը հիմնականում ունենում են 100-300 մլն տվյալ, իսկ ինչքան շատ են տվյալները, այնքան շատ խնդիրներ կարող է լուծել:

GPT-2-ն աշխատում է առանց ուսուցչի՝ մեքենայացված ուսուցման տեխնոլոգիայի հիման վրա: Այսինքն՝ ինքնուրույն է գտնում ճիշտ պատասխանը՝ տվյալներն ուսումնասիրելուց հետո: Նախորդ տարբերակը՝ GPT-ն, սովորել էր գրքային տեքստերից և Վիկիպեդիայից, սակայն անհրաժեշտ արդյունքը չէր տրամադրում: Այդ պատճառով GPT-2-ին սովորեցրել են 8 մլն էջ, որոնց աղբյուրը աշխարհի ամենահայտնի կայքերից մեկն է՝ Reddit-ը: Այստեղ օգտատերերը հավանած տեղեկատվության հղումներն են տեղադրում, գնահատում են մյուս օգտատերերի հղումները՝ ձևավորելով նրանց վարկանիշը, նաև շփվում են միմյանց հետ:

Նախկին սխալները չկրկնելու, ինչպես նաև գովազդը և սպամը բացառելու համար մշակողները նեյրոցանցին բոլոր հղումները չեն ուսուցանել. միայն նրանք, որոնք լավ վարկանիշ են ունեցել: Արդյունքում՝ GPT-2-ը սովորել է գեներացնել կապակցված տեքստերով ամբողջական էջեր: Այդ իսկ պատճառով 2019թ. փետրվարին OpenAI-ը հրաժարվել է հրապարակել նեյրոցանցի ամբողջական տարբերակը՝ սահմանափակվելով կրճատված կրկնօրինակով:

Տեքստում վրիպա՞կ եք գտել։ Նշեք հատվածը և սեղմեք Ctrl (Cmd) + Enter։
Հետևեք մեզ Telegram-ում, Facebook-ում և Google News-ում

Հանրաճանաչ

Հոկտեմբերի 4, 15:16
Հ. Թումանյան

ՌԴ անվտանգության խորհրդի նախագահի տեղակալ Դմիտրի Մեդվեդևը քննադատել է Հայաստանի ղեկավարության արտաքին քաղաքականությունը։ Իրանի պետական հեռուստառադիոընկերությանը տված հարցազրույցում նա Հայաստանի համար ամենավտանգավոր սցենարն անվանել է «նոր Ուկրաինայի» վերածվելը։

Հոկտեմբերի 4, 23:46
Հ. Թումանյան

Մի ինքնաթիռի հետևում երկար սպիտակ գիծ է ձգվում, իսկ մյուսի հետևում երկինքը մնում է պարզ։ Այս տարբերությունը պայմանավորված է օդի վիճակով և շարժիչների աշխատանքով, ոչ թե ինքնին ապացուցում է «թունավոր նյութերի ցրում»։

Հոկտեմբերի 5, 16:47
Հ. Թումանյան

Կոտայքի մարզում ավտոմեքենայից արձակված կրակոցներից երկու պարեկային ծառայող վիրավորվել է։ Ոստիկանությունը ձերբակալել է դեպքին առնչություն ունենալու մեջ կասկածվող երկու անձի։

Հոկտեմբերի 4, 15:16
Հ. Թումանյան

ՌԴ անվտանգության խորհրդի նախագահի տեղակալ Դմիտրի Մեդվեդևը քննադատել է Հայաստանի ղեկավարության արտաքին քաղաքականությունը։ Իրանի պետական հեռուստառադիոընկերությանը տված հարցազրույցում նա Հայաստանի համար ամենավտանգավոր սցենարն անվանել է «նոր Ուկրաինայի» վերածվելը։

Հոկտեմբերի 4, 23:46
Հ. Թումանյան

Մի ինքնաթիռի հետևում երկար սպիտակ գիծ է ձգվում, իսկ մյուսի հետևում երկինքը մնում է պարզ։ Այս տարբերությունը պայմանավորված է օդի վիճակով և շարժիչների աշխատանքով, ոչ թե ինքնին ապացուցում է «թունավոր նյութերի ցրում»։

Սեպտեմբերի 29, 11:43
Հ. Թումանյան

2026 թվականի սեպտեմբերի 28-ին Starship-ն առաջին անգամ ուղեծրային թռիչք կատարեց՝ դառնալով մեկ արձակմամբ Երկրի ուղեծիր դուրս բերված ամենամեծ և ամենազանգվածեղ օբյեկտը։ Մոտ հիսուն մետր բարձրությամբ ու ինը մետր տրամագծով տիեզերանավի թռիչքն ուղեկցվեց տեխնիկական խնդիրներով, սակայն այն կարողացավ վերահսկելիորեն վերադառնալ Երկիր։ Արդյո՞ք սա նշանակում է, որ SpaceX-ը կհասցնի պատրաստվել NASA-ի՝ 2028 թվականի սեպտեմբերին նախատեսված լուսնային վայրէջքին։

Սեպտեմբերի 22, 12:47
Հ. Թումանյան

Wildberries-ը Հայաստանում գործարկել է WB Taxi տաքսի ծառայությունը։ Առաջին փուլում ծառայությունը վաղ հասանելիության ռեժիմով աշխատում է Երևանում և հասանելի է ընկերության աշխատակիցների ու գործընկերների համար, սակայն նախատեսվում է աստիճանաբար ընդլայնել օգտատերերի շրջանակը։

Սեպտեմբերի 19, 20:24
Հ. Թումանյան

Lockheed Martin-ը Տեխասի Ֆորտ Ուերթ քաղաքում պաշտոնապես ներկայացրել է Գերմանիայի համար կառուցված առաջին F-35A Lightning II կործանիչը՝ «35+01» համարով։ Ինքնաթիռն իր առաջին թռիչքն իրականացրել էր սեպտեմբերի 8-ին։ Գերմանիան ընդհանուր առմամբ պատվիրել է 35 F-35A, որոնք աստիճանաբար փոխարինելու են երկրի հնացող Tornado ինքնաթիռներին։

Սեպտեմբերի 29, 11:43
Հ. Թումանյան

2026 թվականի սեպտեմբերի 28-ին Starship-ն առաջին անգամ ուղեծրային թռիչք կատարեց՝ դառնալով մեկ արձակմամբ Երկրի ուղեծիր դուրս բերված ամենամեծ և ամենազանգվածեղ օբյեկտը։ Մոտ հիսուն մետր բարձրությամբ ու ինը մետր տրամագծով տիեզերանավի թռիչքն ուղեկցվեց տեխնիկական խնդիրներով, սակայն այն կարողացավ վերահսկելիորեն վերադառնալ Երկիր։ Արդյո՞ք սա նշանակում է, որ SpaceX-ը կհասցնի պատրաստվել NASA-ի՝ 2028 թվականի սեպտեմբերին նախատեսված լուսնային վայրէջքին։

[miniorange_social_login]

Մեկնաբանություններ

Գրել մեկնաբանություն