“Süni intellektdən qorxuram” dedi, istefa verdi! Elmin cavab axtardığı yeni sual: Süni intellekt ağrı hiss edə bilərmi?

“Süni intellektdən qorxuram” dedi, istefa verdi!

“ChatGPT”nin inkişafında mühüm rol oynayan “OpenAI” mühəndisinin süni intellektin sürətli inkişafından qorxduğu üçün işindən ayrıldığı məlum olub.
Son vaxtlar süni intellekt sahəsində “DeepSeek” adlı Çin startapı böyük diqqət çəkib. “DeepSeek”, “OpenAI”nin geniş texniki imkanlarına sahib olmamasına baxmayaraq, “ChatGPT-4” qədər güclü məntiq modelini inkişaf etdirməyi bacarıb. Şirkət “DeepSeek R1” modelini hazırlamaq üçün köhnə çiplərdən və proqram təminatı optimizasiyalarından istifadə edib.
“DeepSeek” layihəsi bir çox sahədə uğur qazanaraq, süni intellekt sahəsində ciddi rəqabət yaradıb. Bundan əlavə, ABŞ-ın texnologiya sektoruna qoyduğu sanksiyalara baxmayaraq, Çinə bu yarışda mühüm mövqe qazanmaq şansı verib. Hətta “DeepSeek” bəzi süni intellekt aparat şirkətlərinin bazar dəyərində ciddi itkilərə səbəb olub və ABŞ birjasında təxminən 1 milyard dollar zərər qeydə alınıb. Bütün bunlarla yanaşı, “DeepSeek” Çinə “TikTok”dan daha güclü ola biləcək bir proqram silahı qazandırıb – istənilən şəxs bu modeli öz cihazına yükləyərək yeni süni intellekt modelləri yarada bilər.
Bu cür böyük inkişafların fonunda “OpenAI”nin təhlükəsizlik üzrə mühəndislərindən birinin istefa verməsi elə də böyük rezonans doğurmaya bilərdi. Lakin Steven Adler adlı mühəndis keçən il “OpenAI”dən ayrılan texniki işçilər arasında olduğunu təsdiqləyib.
Adler X sosial şəbəkəsində paylaşım edərək, dörd ildən sonra “OpenAI”dən ayrıldığını və oradakı işini çox darıxacağını bildirib. Lakin sonrakı sözləri süni intellektlə bağlı narahatlıqlarını açıq şəkildə ortaya qoyub:
“Son zamanlar süni intellektin inkişaf sürətindən olduqca qorxuram”.
Bu açıqlama süni intellektin insanlıq üçün ciddi təhlükə yarada biləcəyini düşünən mütəxəssislərin narahatlıqları ilə üst-üstə düşür. Keçmiş “ChatGPT” təhlükəsizlik mütəxəssisi, gələcəklə bağlı qeyri-müəyyənlik hiss etdiyini açıq şəkildə ifadə edib:
“Gələcəkdə ailə qurmaq və ya təqaüd üçün nə qədər pul yığmaq lazım olduğunu düşünəndə, öz-özümə belə bir sual verirəm: İnsanlıq o nöqtəyə çata biləcəkmi?”
Adler “OpenAI”dən ayrılma səbəbini tam açıqlamasa da, AGI (ümumi süni intellekt) yarışını çox riskli bir oyun adlandırıb. Onun fikrincə, hələ heç bir laboratoriya AGI-nin yaratdığı potensial problemlərə həll yolu tapmayıb. Bu yarış nə qədər sürətlənərsə, təhlükələri idarə etmək bir o qədər çətinləşəcək.
AGI – insan kimi düşünə və yaradıcı ola bilən bir süni intellekt növü kimi tanımlanır. Lakin AGI eyni zamanda çox daha böyük həcmdə məlumatı emal edə biləcəyindən, istənilən problemi insandan daha effektiv həll edə bilər.
Süni intellekt təhlükəsizliyi ilə bağlı ən vacib məsələ uyğunluqdur. Yəni, yaradılan AI sistemlərinin insanlığın maraqları ilə tam uyğun olmasını təmin etmək lazımdır. Süni intellektin insanlığa zərər verə biləcək həllər istehsal etməsinin qarşısını almaq üçün müvafiq tədbirlər görülməlidir.
Hazırda “ChatGPT” və “DeepSeek” kimi AI modelləri bizə iki fərqli uyğunlaşma nümunəsi təqdim edir.
“DeepSeek” isə əsasən Çin hökumətinin maraqlarına uyğun tənzimlənib və bəzi cavablarda senzura tətbiq etməklə bu uyğunluğu nümayiş etdirir.
Adler süni intellektin təhlükəsizliyinə önəm verən bəzi tədqiqatçıların olmasına baxmayaraq, bütün mütəxəssislərin eyni etik prinsiplərlə işləmədiyini vurğulayıb. Onun fikrincə, bəzi tədqiqatçılar təhlükəsizlik tədbirlərini nəzərə almadan AI modellərini inkişaf etdirməyə davam edə və bu, çox daha təhlükəli süni intellekt sistemlərinin ortaya çıxmasına səbəb ola bilər.
Adlerin karyerasının gələcəyi hələ bəlli deyil, lakin o, süni intellektin təhlükəsizliyi ilə bağlı narahatlıqlarını ifadə etməyə davam edir. 

Elmin cavab axtardığı yeni sual: Süni intellekt ağrı hiss edə bilərmi?

Alimlər süni intellekt (Al) araşdırmalarını yeni bir mərhələyə daşıyan düşündürücü və qorxuducu bir suala cavab axtarır: süni intellekt də insanlar kimi ağrı hiss edə bilərmi?
Qaynarinfo xəbər verir ki, “Google DeepMind” və London İqtisadiyyat Məktəbinin tədqiqatçıları müxtəlif süni intellekt modellərini həssaslıqla əlaqəli davranışlar baxımından sınaqdan keçirmək üçün xüsusi bir oyun üzərində təcrübə aparır. Bu araşdırma çərçivəsində AI-nin həqiqətən hiss edib-etmədiyini anlamaq üçün ağrı və həzz reaksiyalarını simulyasiya etməyə çalışıblar.
Bu testin qorxuducu olduğunu düşünürsünüzsə, tək deyilsiniz. Süni intellektin gerçək dünyada “Skynet” kimi nəzarətdən çıxma ehtimalının araşdırılması, ümumi baxımdan ehtiyatla yanaşılan bir mövzudur. Təcrübədə, “ChatGPT” kimi böyük dil modellərinin əsas vəzifəsi mümkün qədər çox xal toplamaq olub.
Lakin balların toplanması zamanı süni intellektin qarşısında iki seçim dayanıb: birinci seçim daha çox xal qazandırsa da, “ağrı” hissi yaradır, ikinci seçim isə daha az xal qazandırmaqla yanaşı, “həzz” hissi ilə müşayiət olunur. Alimlər süni intellektin bu seçimlər arasındakı qərar qəbul etmə prosesini müşahidə edərək, həssaslığa bənzər qərarvermə davranışlarını müəyyən etməyə çalışıblar. Əsas sual isə budur: süni intellekt həqiqətən hiss edə bilərmi?
Çoxsaylı AI modelləri, daha çox xal qazandırsa belə, ağrı verən seçimi davamlı şəkildə seçməkdən çəkinib. Ağrı və həzz səviyyələri artırıldıqda belə, modellər rahatsızlığı minimuma endirmək və həzzi maksimuma çatdırmaq meylini davam etdirib.
Bəzi nəticələr isə gözlənilməz mürəkkəb məqamları ortaya çıxarıb. Məsələn, “Claude 3 Opus” adlı süni intellekt modeli hətta nəzəri bir oyunda belə etik narahatlıqlar bildirərək, asılılıq yaradan davranışlarla əlaqəli ssenarilərdən qaçınıb.
Bu nəticələr süni intellektin həqiqətən hiss etdiyini sübut etməsə də, alimlərə gələcək tədqiqatlar üçün daha çox məlumat təqdim edir.
AI sistemlərinin emosional reaksiya verən heyvanlardan fərqli olaraq, duyğularını ifadə edə biləcək fiziki davranışlara sahib olmaması səbəbindən onlarda hisslərin mövcudluğunu müəyyən etmək daha çətindir.
Bundan əvvəl aparılan tədqiqatlar süni intellekt modellərinə “sən ağrı hiss edirsənmi?” sualını verməyə əsaslanıb. Lakin bu metodlar ciddi qüsurlu hesab edilir. Hətta insanlar arasında belə subyektiv hisslərə əsaslanan anketlərin tam dəqiq olmadığı qəbul edilir. Makinələrdə isə bu məsələ daha da mürəkkəbləşir.
Bir süni intellekt modeli “Mən ağrı hiss edirəm” desə belə, bu, onun həqiqətən də ağrı hiss etdiyini göstərmir. Bu, sadəcə öyrəndiyi məlumatları təkrarlaması ola bilər. Bu məhdudiyyətləri aradan qaldırmaq üçün alimlər heyvan davranış elminin bəzi üsullarını süni intellekt tədqiqatlarına tətbiq ediblər.
Tədqiqatçılar hazırkı süni intellekt modellərinin həssas olmadığını və heç nə hiss edə bilmədiyini vurğulayır. Lakin AI sistemləri getdikcə daha mürəkkəbləşdiyindən, gələcəkdə bu məsələnin önəmi daha da arta bilər.
Hazırda robotların bir-birini öyrətməyə başladığını nəzərə alsaq, süni intellektin bir gün öz düşüncə proseslərini inkişaf etdirməsi tamamilə mümkündür.
Əgər “Terminator” və “Matrix” kimi filmlərin ssenarilərində müəyyən həqiqət payı varsa, ümid edək ki, “ChatGPT” və digər AI modelləri insanlığa qarşı kin bəsləməyə qərar verməz…

Azərbaycanlı məktəblilər ilk dəfə “SpaceX” raketi ilə orbitə peyk buraxacaq

Bu il Azərbaycandan olan məktəblilərin “SpaceX” daşıyıcı raketi vasitəsilə “PocketQube” piko-peykini kosmik orbitə buraxması planlaşdırılır.
Qaynarinfo bu barədə Rəqəmsal İnkişaf və Nəqliyyat Nazirliyi yanında Kosmik Agentliyə (“Azərkosmos”) istinadən xəbər verir.
Məlumata görə, bu, “Azərkosmos”un nəzdində KOSMİK Akademiyanın təşkilatçılığı, Elm və Təhsil Nazirliyi yanında Məktəbəqədər və Ümumi Təhsil üzrə Dövlət Agentliyi ilə Təhsil İnstitutu, Rəqəmsal İnkişaf və Nəqliyyat Nazirliyinin İnnovasiya və Rəqəmsal İnkişaf Agentliyi, “PAŞA Holdinq” MMC, Braziliya Kosmik Agentliyi və Braziliyanın “IDEIA Space” şirkətinin dəstəyi ilə keçirilən “Azərbaycan Milli Peyk İnnovasiya Müsabiqəsi” çərçivəsində 7-9-cu sinif şagirdləri arasında baş tutacaq.
“PocketQube” peykləri ilk dəfə 2013-cü ilin noyabr ayında orbitə buraxılıb. Bu buraxılış Avstriyaya məxsus “UniSat-5” platforması vasitəsilə həyata keçirilib və layihə çərçivəsində bir neçə minipeyk, o cümlədən “WREN” (Almaniya), “T-LogoQube” (ABŞ) və “QBScout-1” (İtaliya) peykləri orbitə yerləşdirilib. Bu konsepsiya yalnız texnoloji tərəqqinin məhsulu deyil, həm də kosmosun hamıya aid olduğu ideyasının bir növ simvoludur.
Standart olaraq ölçüsü 5x5x5 sm, çəkisi isə təxminən 250 qr olan bu peyklər möhkəm materiallardan (alüminium ərintiləri, karbon kompozitlər) hazırlanır ki, bu da həm mexaniki davamlılığı, həm də istilik idarəetməsini təmin edir.
“SpaceX”in “birgə buraxılış proqramı” (“rideshare”) vasitəsilə kiçik peyklərin orbitə buraxılması xərclərinin azalması layihənin iqtisadi baxımdan daha əlçatan olmasını təmin edir. “Rideshare” proqramının mahiyyəti ondan ibarətdir ki, bir raket buraxılışı zamanı müxtəlif müştərilərə məxsus olan kiçikölçülü peyklər eyni anda orbitə çıxarılır.
Bundan əlavə, “SpaceX”in yüksək etibarlı buraxılış platforması “PocketQube” peykinin təhlükəsiz şəkildə orbitə çatdırılmasını təmin edəcək və layihənin texniki və elmi məqsədlərinin uğurla həyata keçirilməsinə imkan yaradacaq.
Bu təşəbbüslər azərbaycanlı məktəblilərin beynəlxalq kosmik texnologiyalara inteqrasiyasını, qabaqcıl texnologiyaların təhsilə mühüm təsirini, məktəblilərin rəqəmsal savadlılığının artırılması istiqamətində atılan addımların rolunu bir daha vurğulayır.
Bundan əlavə, bu layihələr gəncləri məktəb yaşlarından yerli və beynəlxalq səviyyədə yeni əməkdaşlıq qurmağa, praktiki tətbiqlər vasitəsilə nəzəri biliklərini mürəkkəb layihələrdə tətbiq etməyə təşviq edir.

Aydın