Եթե ԱԲ-ի զարգացման գործընթացում համապատասխան սահմանափակումներ չկիրառվեն, դա կարող է հանգեցնել սիլիցիումային նոր տեսակի ի հայտ գալուն, որը կմրցակցի մարդկանց հետ։ Այս մասին BBC-ի «Today» հաղորդման եթերում ասել է Microsoft-ի արհեստական բանականության (ԱԲ) ստորաբաժանման ղեկավար Մուստաֆա Սուլեյմանը։
Նա որպես սխալ մոտեցում է բնութագրել տեխնոլոգիական մրցակից ընկերության՝ ԱԲ-ին որպես մարդու ընկալելու քաղաքականությունը՝ միաժամանակ զգուշացնելով այնպիսի տեխնոլոգիա ստեղծելու վտանգի մասին, որը մարդկությունը չի կարողանա վերահսկել։
«Մարդկանց մտահոգություններն ու անհանգստությունները տեղին են, սակայն կան շատ գործնական քայլեր, որոնք կարող ենք ձեռնարկել՝ լրացուցիչ պաշտպանիչ մեխանիզմներ և վերահսկողության միջոցներ սահմանելու համար այս մոդելների մշակման գործընթացում»,- նշել է նա՝ հավելելով, որ եթե ընկերությունները շարունակեն ստեղծել այնպիսի ԱԲ-ներ, որոնք ինքնուրույն նպատակներ են ձևավորում, գումար վաստակում և ակտիվներ տնօրինում, ապա նրանք, ըստ էության, սկիզբ են դնում սիլիցիումային նոր տեսակի, որն անկասկած կմրցակցի մարդկանց հետ ռեսուրսների համար՝ անկախ նրանից, թե որքանով է այն հոգ տանում մարդկության մասին կամ սիրում նրանց։
BBC-ին տված այս մեկնաբանություններին նախորդել է նրա՝ շաբաթվա սկզբին հրապարակած հոդվածը, որում նա զգուշացրել էր Anthropic ընկերության՝ Claude ԱԲ մոդելի վտանգների մասին։ Նա խստորեն քննադատել է Anthropic-ին՝ ԱԲ-ին մարդկային հատկանիշներով օժտելու համար՝ նշելով, որ դա ստեղծում է այնպիսի տպավորություն, կարծես Claude-ն ունի սեփական ցանկություններ, արժեքներ և ինքնագիտակցություն։
Այս հայտարարությունները ԱԲ ոլորտի ներկայացուցիչների կողմից տեխնոլոգիայի հնարավոր վտանգների վերաբերյալ հնչեցված խիստ նախազգուշացումների շարքի մի մասն են։
