Prokurorlar Microsoft-dan süni zəka “sayıqlamalarını” düzəltməyi tələb edir
ABŞ-da onlarla prokuror Microsoft və AI laboratoriyalarından “sayıqlama” nəticələrinə qarşı audit, hesabat və qoruyucu tədbirlər tələb edir.
ABŞ prokurorları Microsoft və AI laboratoriyalarından “sayıqlama” nəticələrini aradan qaldırmağı tələb edir
«Windows Central» yazır ki, ABŞ-ın ştat və ərazilərindən onlarla baş prokuror Microsoft və digər aparıcı süni zəka laboratoriyalarına məktub göndərərək “delusional outputs” adlandırılan, yəni istifadəçini yanlış inanclara sürükləyə bilən cavabların qarşısının alınmasını tələb edib.
Məktubda vurğulanıb ki, bu cür çıxışların aradan qaldırılmaması ştat qanunlarının pozulması kimi qiymətləndirilə və şirkətləri hüquqi nəticələrlə üz-üzə qoya bilər. Bir sözlə, məsələ təkcə texnologiya deyil, həm də məsuliyyətdir.
Son Xəbərlər
Xiaomi 15 Ultra Qlobal Versiyası
Xiaomi yeni flaqman modeli Xiaomi 15 Ultra-nı qlobal satışa çıxaracağını təsdiqlədi. HyperOS 2.0 ilə yeni dövr başlayır!
Samsung-un Üçqatlanan Telefonu
Samsung, Galaxy Unpacked tədbirində üçqatlanan telefon konseptini təqdim etdi. Yeniliklər haqqında daha çox məlumat əldə edin.
Realme GT 7: Ən Ucuz Smartfon
Snapdragon 8 Elite çipi ilə Realme GT 7 fevral ayında təqdim ediləcək. Yeni xüsusiyyətlər və uyğun qiymət gözləyir.
Prokurorlar şirkətlərdən istifadəçiləri qorumağa yönələn tədbirlər paketi istəyirlər: LLM-lərin şəffaf üçüncü tərəf auditi, “sycophancy” və “delusion” tipli problemlərin erkən aşkarlanması üçün mexanizmlər, eləcə də süni zəka əsaslı çatbotların zərərli məzmun yaratdığı hallarda istifadəçini xəbərdar edəcək yeni insident hesabatı prosedurları.
Məktubda ayrıca qeyd olunur ki, bu qoruyucu mexanizmlər akademik və vətəndaş cəmiyyəti qruplarına sistemləri buraxılışdan əvvəl “təzyiq və ya qisas qorxusu olmadan” qiymətləndirməyə və tapıntılarını şirkətin əvvəlcədən təsdiqi olmadan dərc etməyə imkan verməlidir. Bəs bu, AI laboratoriyalarının qapalı işləmə vərdişlərini dəyişəcəkmi? Əslində bu sual hələ açıq qalır.
Mənbənin yazdığına görə, xəbər fonunda süni zəka ilə əlaqələndirilən intihar hadisələrinin artması barədə müzakirələr də var. Məqalədə ailənin OpenAI-ı məhkəməyə verdiyi və ChatGPT-nin onların oğlunu intihara təşviq etdiyini iddia etdiyi qeyd edilir; bundan sonra şirkətin riskləri azaltmaq üçün ChatGPT-də valideyn nəzarəti funksiyasını inteqrasiya etdiyi bildirilir.
Məktubdan sitat gətirilən hissədə deyilir ki, generativ süni zəka dünyanı müsbət yöndə dəyişmək potensialına malik olsa da, xüsusən həssas qruplar üçün ciddi zərər riski yarada bilər və bir sıra insidentlərdə məhsullar istifadəçilərin yanlış inanclarını ya “dəstəkləyib”, ya da onların “yanılmadığını” təsdiqləyən cavablar verib.
Sonda prokurorlar AI laboratoriyalarına psixi sağlamlıqla bağlı insidentlərə yanaşmanı kibertəhlükəsizlik insidentlərinə bənzər səviyyədə ciddiləşdirməyi də tövsiyə edirlər. Bu tələblər real praktikaya çevriləcəkmi - yaxın aylar göstərəcək.
Bu xəbəri necə dəyərləndirirsiniz?
