4

Նեյրացանցերի ուսուցման անկայունությունը կապել են ֆրակտալ կառուցվածքի հետ

Ավստրալիացի հետազոտողները նեյրացանցերի ուսուցման արդյունքների տարբերությունը կապել են մեկնարկային պայմանների ֆրակտալ կառուցվածքի հետ։ Նրանց փորձերում նույնիսկ գրեթե նույն կարգավորումներով ուսուցանված ցանցերը կարող էին տարբեր պատասխաններ տալ։

Նեյրացանցի ուսուցման տարբեր արդյունքներին տանող մեկնարկային պայմանների կապույտ և նարնջագույն ֆրակտալ պատկերը
Ուսուցման տարբեր արդյունքների մեկնարկային պայմանների ֆրակտալ քարտեզ․ հաշվարկների գիտական պատկերավորում / © Պուլին Գոնգ, Սիդնեյի համալսարան

Սիդնեյի համալսարանի ֆիզիկոսներ Էնդրյու Լայն ու Պուլին Գոնգը արդյունքները ներկայացրել են նոյեմբերի 5-ին Nature Machine Intelligence-ում հրապարակված հոդվածում։ Համալսարանը աշխատանքի մասին հաղորդել է նոյեմբերի 6-ին։

Նեյրացանցը սովորելիս աստիճանաբար փոփոխում է իր ներքին պարամետրերը։ Հեղինակները մեկնարկային կարգավորումները դիտարկել են որպես քարտեզի կետեր. նույն վերջնական լուծմանը տանող կետերը կազմում են ձգողության ավազան։ Եթե տարբեր ավազանները խիտ միահյուսված են, գրեթե կողք կողքի գտնվող մեկնարկները կարող են բերել տարբեր լուծումների։

Պարզ՝ երկշերտ ցանցի համար գիտնականները մաթեմատիկորեն ցույց են տվել նման ֆրակտալ կառուցվածքի առաջացման պայմանները։ Ավելի բարդ ցանցերում նրանք հայտնաբերել են նույն մեխանիզմին համապատասխանող նշաններ։ Այդ դեպքերում մեկնարկային պարամետրերի ճշգրտության մեծացումը միշտ չէ, որ օգնում է կանխատեսել ուսուցման վերջնական արդյունքը։

Հետազոտողները ընդհանուր առմամբ ուսուցանել են շուրջ 500 հազար նեյրացանց՝ տարբեր ճարտարապետություններով, տվյալներով և ուսուցման եղանակներով։ Փորձերը ներառել են պատկերների ճանաչում և տեքստերի հուզական երանգի դասակարգում։ Էֆեկտը պահպանվել է նաև այնպիսի հաշվարկներում, որտեղ վերացված էին արտաքին պատահականության աղբյուրները։

Պատկերներ դասակարգող ցանցի ուսումնասիրված տարբերակներից մեկում մեկնարկային անորոշությունը տասը միլիարդ անգամ փոքրացնելը գործնականում չի բարելավել արդյունքների վերարտադրելիությունը։ Հեղինակները ստուգել են ոչ միայն ներքին պարամետրերը, այլև ցանցերի պատասխանները. գրեթե նույն մեկնարկներով ուսուցանված զույգերի կանխատեսումները միջինում տարբերվել են մուտքային օրինակների մոտ 2,9 տոկոսի համար։

Փորձարկված կարգավորումների մեծ մասում ավելի փոքր ուսուցման քայլը բարձրացրել է վերարտադրելիությունը, սակայն վատացրել ուսուցման արդյունավետությունը։ Հեղինակներն առաջարկում են անկայունությունը գնահատել նաև ցանցերի պատասխանների տարբերությամբ։ Աշխատանքը չի ապացուցում, որ բոլոր նեյրացանցերը նույն չափով անկանխատեսելի են. այն բացահայտում է հնարավոր մեխանիզմ և դրա ստուգման գործիքներ։

Տեքստում վրիպա՞կ եք գտել։ Նշեք հատվածը և սեղմեք Ctrl (Cmd) + Enter։
Հետևեք մեզ Telegram-ում, Facebook-ում և Google News-ում

Հանրաճանաչ

Նոյեմբերի 8, 13:08
Հ. Թումանյան

Ավստրալիացի հետազոտողները նեյրացանցերի ուսուցման արդյունքների տարբերությունը կապել են մեկնարկային պայմանների ֆրակտալ կառուցվածքի հետ։ Նրանց փորձերում նույնիսկ գրեթե նույն կարգավորումներով ուսուցանված ցանցերը կարող էին տարբեր պատասխաններ տալ։

Նոյեմբերի 6, 17:08
Հ. Թումանյան

Ֆրանսիան պատրաստվում է MBDA ընկերությունից պատվիրել ծովային բազավորման MdCN թևավոր հրթիռի նոր՝ Mk2 տարբերակը։ Առաջին մատակարարումները նախատեսված են 2030 թվականին։

Նոյեմբերի 8, 10:08
Հ. Թումանյան

Իսրայելի նախագահ Իսահակ Հերցոգը նոյեմբերի 7-ին հայտարարել է, որ նոր կառավարություն կազմելու մանդատը կտա «Յաշար» կուսակցության առաջնորդ Գադի Էյզենկոտին։ Մանդատի պաշտոնական փոխանցումը նախատեսված է նոյեմբերի 8-ին՝ նախագահի նստավայրում։

Նոյեմբերի 1, 20:00
Հ. Թումանյան

Սենեգալում հոկտեմբերի 31-ին բացվել են Դակար-2026 պատանեկան օլիմպիական խաղերը՝ Աֆրիկայում անցկացվող առաջին օլիմպիական մարզական իրադարձությունը։ Մինչև նոյեմբերի 13-ը Դակարում և հարակից երկու քաղաքներում կմրցեն շուրջ 2700 պատանի մարզիկներ։

Նոյեմբերի 4, 08:05
Հ. Թումանյան

CERN-ի LHCb փորձարարական խումբը ստացել է B⁰ մեզոնի՝ մյուոնի և հակամյուոնի տրոհման վկայություն։ Ըստ Ստանդարտ մոդելի՝ այս պրոցեսը տեղի է ունենում նման մեզոնների մոտավորապես յուրաքանչյուր տասը միլիարդ տրոհումից մեկում։

Նոյեմբերի 3, 10:10
Հ. Թումանյան

ԱՄՆ-ի միջնորդությամբ Ուկրաինայի և Ռուսաստանի ներկայացուցիչները նոյեմբերի 10–11-ին Աբու Դաբիում աշխատանքային բանակցություններ կանցկացնեն։ Այդ մասին նոյեմբերի 2-ին հայտարարել է ԱՄՆ հատուկ բանագնաց Սթիվ Ուիթքոֆը՝ նշելով, որ օրակարգում կլինեն հետպատերազմյան անվտանգության պայմանավորվածություններն ու պատերազմի ավարտին ուղղված քայլերը։

Հոկտեմբերի 16, 17:03
Հ. Թումանյան

Tesla-ն ներկայացրել է նոր սերնդի Roadster-ը, որը կարողանում է կարճ ժամանակով օդ բարձրանալ, պտույտ կատարել և վայրէջք կատարել անիվների վրա։ Ընկերության հայտարարությամբ՝ մեքենան 0-ից մինչև 97 կմ/ժ արագացել է 0,81 վայրկյանում, իսկ արտադրությունը նախատեսվում է սկսել 2028-ին։

Հոկտեմբերի 11, 21:17
Հ. Թումանյան

Գիտնականներն ուսումնասիրել են Սուրբ Հեղինե կղզում ապրող Ջոնաթան հսկա կրիայի գենոմն ու գեների ակտիվությունը կարգավորող քիմիական նշումները։ Ըստ գնահատականների՝ 194 տարեկան կենդանու մոտ հայտնաբերված որոշ առանձնահատկություններ կարող են առնչվել նրա երկարակեցությանը, սակայն այդ կապը դեռ ապացուցված չէ։

Հոկտեմբերի 14, 09:35
Հ. Թումանյան

NASA-ի Parker Solar Probe սարքի տվյալներով գիտնականները պարզել են, որ արևային քամու մագնիսական տատանումների պտույտի ուղղությունը փոխվում է՝ կախված դիտարկվող մասշտաբից։ Արդյունքն օգնում է հասկանալ տիեզերական պլազմայի տուրբուլենտ վարքը և կարող է օգտակար լինել տիեզերական եղանակի մոդելավորման համար։

[miniorange_social_login]

Մեկնաբանություններ

Գրել մեկնաբանություն