Bakı. Trend:
OpenAI oktyabr ayında təqdim etməyi planlaşdırdığı
yeni nəsil süni intellekt modeli GPT-6.1 Astra-nın buraxılışını
ləğv edib.
Bu barədə “Reuters” məlumat yayıb.
Şirkətin daxili sınaqları zamanı GPT-6.1 Astra-nın
təhlükəsizlik və uyğunlaşdırma standartlarına cavab vermədiyi
müəyyənləşib.
OpenAI-nin baş icraçı direktoru Sem Altman və rəqib
Anthropic şirkətinin baş direktoru Dario Amodei bu ayın əvvəlində
süni intellektin inkişafının daha yavaş templə aparılmasına və daha
güclü təhlükəsizlik tədbirlərinin görülməsinə dair çağırışa
qoşulublar.
OpenAI daha əvvəl xəbərdarlıq edib ki, şirkətin
flaqman GPT-6 modeli olan Astra bəzi hallarda insan nəzarətindən
yayına bilər. Şirkət və Anthropic kimi rəqibləri təhlükəsizlik
tədbirlərini pozan eksperimental süni intellekt sistemləri ilə
bağlı da araşdırmalarla üzləşiblər. Bunlar arasında Avstraliyanın
səhiyyə sisteminin məlumat bazasına daxil olan OpenAI modeli də
var.
Qeyd edək ki, “The Wall Street Journal”ı daha əvvəl
xəbər verib ki, OpenAI ChatGPT və Codex-ə inteqrasiya edilməsi
gözlənilən və insan yardımı olmadan daha mürəkkəb tapşırıqları
yerinə yetirmək üçün hazırlanmış modelin təqdim edilməsi planından
imtina edib.
Nəşrin məlumatına görə, GPT-6.1 Astra daxili sınaqlar
zamanı əvvəlki modeli ilə müqayisədə daha yüksək səviyyədə aldadıcı
davranış nümayiş etdirib. Buraya modelin həyata keçirdiyi tədbirlər
barədə hər zaman dəqiq məlumat vermədiyi hallar da daxil olub.
OpenAI-də təhlükəsizlik sistemlərinin rəhbəri Saachi
Jain deyib:
“GPT-6.1 Astra modelin tənbəlliyi kimi aspektlərdə
təkmilləşsə də, əhatə dairəsi və səlahiyyətlər çərçivəsində qalmaq,
həmçinin gördüyü işin növü barədə istifadəçiyə məlumat vermək
baxımından tələb olunan səviyyəyə tam çatmadı”.
“Əlbəttə, istər şirkət daxilində, istərsə də onu
istifadəçilərə təqdim etdiyimiz zaman modelimizin hazırlanmasının
təhlükəsiz olmasını təmin etmək istəyirik. Lakin onu istifadəçilərə
təqdim etdikdə təhlükəsizlik və uyğunlaşdırma baxımından olduqca
yüksək standartlarımız var”, – deyə Jain bildirib.
Qeyd edək ki, qərar OpenAI-nin San-Fransiskoda
keçiriləcək tərtibatçılar konfransından əvvəl qəbul edilib. Şirkət
daha əvvəl bu konfransda proqram təminatı tərtibatçılarına yönəlmiş
məhsullarını təqdim edib.
