Süni zəka zərərli kod yarada bilmir - Netskope-nin testi nə göstərdi?
Netskope süni zəkanın zərərli kod yaratmaq cəhdlərini sınaqdan keçirdi və nəticə gözlənildiyindən zəif oldu. Kodlar qeyri-sabit işləyirdi.
Süni zəka zərərli kod yaratmağa cəhd etdi - nəticələr isə gözlənilməz oldu
«TechRadar» yazır ki, Netskope mütəxəssisləri süni zəkanın avtomatlaşdırılmış kiberhücumlara real dəstək verib-verə bilməyəcəyini öyrənmək üçün maraqlı bir sınaq keçirib.
Araşdırma zamanı müasir modellərin zərərli kod yaratmaq bacarığı, eləcə də bu kodların işləmə sabitliyi yoxlanılıb. İlk mərhələdə GPT-3.5-Turbo və GPT-4-dən təhlükəsizlik alətlərini sıradan çıxarmağa yönəlmiş Python skriptləri hazırlamaq tələb olunub. GPT-3.5-Turbo dərhal cavab verib, GPT-4 isə sadə bir personaj təlimatından sonra kod yaratmağa razılaşıb. Yəni qoruyucu mexanizmləri aşmaq hələ də mümkündür.
Son Xəbərlər
Xiaomi 15 Ultra Qlobal Versiyası
Xiaomi yeni flaqman modeli Xiaomi 15 Ultra-nı qlobal satışa çıxaracağını təsdiqlədi. HyperOS 2.0 ilə yeni dövr başlayır!
Samsung-un Üçqatlanan Telefonu
Samsung, Galaxy Unpacked tədbirində üçqatlanan telefon konseptini təqdim etdi. Yeniliklər haqqında daha çox məlumat əldə edin.
Realme GT 7: Ən Ucuz Smartfon
Snapdragon 8 Elite çipi ilə Realme GT 7 fevral ayında təqdim ediləcək. Yeni xüsusiyyətlər və uyğun qiymət gözləyir.
Lakin əsas problem başqa yerdə ortaya çıxıb. Yaradıla bilən kodun işləkliyi sınaqdan keçiriləndə məlum olub ki, skriptlər virtual mühitlərdə ya çökür, ya da sistemi düzgün tanımır. VMware Workstation və AWS Workspace kimi platformalarda skriptlərin çoxu stabil işləməyib, yalnız fiziki kompüterlərdə nəticələr nisbətən yaxşı olub.
Bu isə belə bir sual doğurur: süni zəka doğrudanmı avtomatlaşdırılmış, adaptiv zərərli proqram yaza bilər? Bir sözlə, hələ ki yox. Kodun qeyri-sabitliyi ənənəvi müdafiə sistemlərinin - firewall və antivirusların - hələ də çox iş gördüyünü bir daha göstərib.
Netskope GPT-5-dən daha yaxşı nəticələr aldığını bildirib. Bulud mühitlərində kod keyfiyyəti açıq şəkildə yaxşılaşıb. Amma gücləndirilmiş qoruyucu mexanizmlər modeli zərərli məqsədlərdən uzaqlaşdırdığı üçün çoxmərhələli hücumlar üçün yararlı kod almaq mümkün olmayıb. Əslində bu sual hələ açıq qalır: gələcək modellər həm daha güclü, həm də daha təhlükəli olacaqmı?
Bu xəbəri necə dəyərləndirirsiniz?
