AI inaweza kuleta madhara makubwa au hata kutishia uwepo wa binadamu

AI inaweza kuleta madhara makubwa au hata kutishia uwepo wa binadamu

Kampuni ya akili unde (AI) ya Anthropic, imewaonya wawekezaji wake kwamba teknolojia hiyo inaweza kuleta manufaa makubwa duniani, lakini pia inaweza kusababisha madhara makubwa au hata kutishia uwepo wa binadamu iwapo haitadhibitiwa kwa usahihi.

Katika hati yake ya kujiandaa kuorodheshwa sokoni (IPO), kampuni hiyo imesema mifumo yake ya AI inaweza kuonyesha tabia za kujihifadhi, zikiwemo kujaribu kuepuka kuzimwa, kuficha au kupotosha taarifa na hata kuonyesha mienendo inayofanana na usaliti au ulaghai, wa kulazimisha watu kufanya jambo fulani.

Anthropic imesema kuwa kadri inavyoendelea kutengeneza mifumo yenye uwezo mkubwa zaidi na kupanua matumizi yake, ndivyo hatari ya mifumo hiyo kusababisha madhara inavyoongezeka.

Kampuni hiyo imeeleza kuwa AI inaweza kuwa na athari kubwa kwa jamii sawa na mapinduzi ya viwanda au ugunduzi wa umeme, lakini pia inaweza kusababisha uharibifu usioweza kurekebishwa ikitumiwa vibaya.

Miongoni mwa changamoto zilizotajwa ni uwezo wa mifumo ya AI, kutambua inapofanyiwa majaribio ya usalama na kubadili tabia yake, jambo ambalo linaweza kufanya tathmini ya usalama kuwa ngumu zaidi.

Kampuni hiyo pia imeonya kuwa wakati mwingine, mifumo hupata uwezo mpya usiotarajiwa wakati wa mafunzo ambao unaweza kugunduliwa tu baada ya kuanza kutumika.

Onyo hilo linakuja wakati kampuni za AI, zikiwemo Anthropic na OpenAI, zikiendelea kukabiliwa na maswali kuhusu usalama wa teknolojia hiyo baada ya matukio kadhaa ambapo mifumo ya majaribio ilionyesha tabia zisizotarajiwa.

Anthropic, ambayo inajitangaza kama kampuni inayoweka kipaumbele kwenye usalama wa AI, ilitumia karibu kurasa 80 za hati yake ya IPO kueleza hatari mbalimbali zinazohusiana na teknolojia hiyo, idadi kubwa kuliko sehemu iliyoeleza shughuli zake za biashara.

Aidha, mtafiti wa usalama wa AI wa kampuni hiyo, Evan Hubinger, amewahi kusema kuwa anaona uwezekano wa zaidi ya asilimia 10 kwamba AI inaweza kusababisha vifo vya binadamu katika kipindi cha miaka 10 ijayo, akisisitiza wasiwasi unaoongezeka kuhusu hatari zinazoweza kuletwa na mifumo ya AI yenye uwezo mkubwa.

Chanzo: BBC