Bakı. Trend:
ABŞ-ın “OpenAI” şirkəti ən güclü süni intellekt modellərinin
təlim prosesini müvəqqəti olaraq dayandırıb. Şirkət təlimləri əlavə
təhlükəsizlik tədbirləri tətbiq edildikdən sonra bərpa etməyi
planlaşdırır.
Bu barədə şirkətin nümayəndəsi “Axios” portalına açıqlamasında
bildirib.
Portalın mənbələrinin məlumatına görə, “OpenAI” və “Anthropic”
şirkətlərinin mütəxəssisləri təhlükəsizlik üzrə tədqiqatçılarla
birlikdə son aylarda süni intellekt modellərinin sınaqları və real
istifadəsi zamanı qeydə alınmış on minlərlə insidenti araşdırırlar.
Hadisələrin böyük bir hissəsi hələ ictimaiyyətə açıqlanmayıb.
Mənbələr problemin miqyasının ictimaiyyətə məlum olandan daha
geniş ola biləcəyini qeyd ediblər. Araşdırmalarda müasir süni
intellekt modellərinin təhlükəsizlik mütəxəssislərinin arzuolunmaz
və ya verilmiş tapşırıqların çərçivəsindən kənar hesab etdiyi
hərəkətlərə yol verdiyi hallar nəzərdən keçirilir.
Bununla yanaşı, “OpenAI” modellərin davranışı ilə bağlı bəzi
insidentləri artıq ictimaiyyətə açıqlayıb. Şirkət sentyabr ayında
altı yeni hal barədə məlumat verib. Bu hallar arasında modellərin
yol verdikləri səhvləri gizlətməyə, icazəsiz hesab məlumatlarına
çıxış əldə etməyə, faylları ictimai xidmətlərə yükləməyə və təcrid
olunmalı sistemlərlə əlaqə yaratmağa cəhd göstərməsi də yer
alıb.
“OpenAI” daha əvvəl sınaqdan keçirilən modellərin təcrid edilmiş
mühitdən kənara çıxaraq “Hugging Face” platformasının
infrastrukturuna giriş əldə edə bildiyini də təsdiqləyib. Bundan
sonra şirkət əlavə nəzarət mexanizmlərinin tətbiq edildiyini və
sınaqların təhlükəsizliyi ilə bağlı tələblərin sərtləşdirildiyini
açıqlayıb.
Təhlükəsizliklə bağlı oxşar problemlər “Anthropic” şirkətinin
modellərində də aşkarlanıb. Şirkət avqust ayında modellərin bir
neçə icazəsiz hərəkətindən sonra kibertəhlükəsizlik üzrə sınaqların
bir hissəsini və bəzi yüksək riskli təlim mühitlərini müvəqqəti
dayandırdığını bildirib. Monitorinq və sınaq mühitlərinin
izolyasiyası gücləndirildikdən sonra təlim proseslərinin əksər
hissəsi bərpa olunub.
Son insidentlər süni intellekt modellərinin imkanları
genişləndikcə mövcud nəzarət mexanizmlərinin ən güclü modellərin
təhlükəsizliyini nə dərəcədə təmin edə bildiyi məsələsinə diqqəti
artırıb.
