### ABD Senatörlerinden OpenAI’e Güvenlik ve İstihdam Uygulamaları Sorgusu
ABD’den beş önde gelen Demokrat senatör, OpenAI CEO’su Sam Altman’a şirketin güvenlik ve istihdam uygulamaları hakkında netlik talep eden bir mektup gönderdi. Bu mektup, OpenAI’nin güvenli ve sorumlu yapay zeka geliştirme konusundaki taahhütleri hakkında son zamanlarda ortaya çıkan şüphelerin ardından geldi.
Mektupta, Senatörler Brian Schatz, Ben Ray Luján, Peter Welch, Mark R. Warner ve Angus S. King, Jr.’ın imzaları bulunuyor ve yapay zekanın ulusal ekonomik rekabet ve jeopolitik konum için taşıdığı öneme vurgu yapılıyor. Senatörler, ABD hükümeti ve ulusal güvenlik ajansları ile yapılan işbirliklerinin önemini belirterek, güvenli AI sistemlerinin kritik doğasını özellikle vurguladılar.
> “Ulusal ve ekonomik güvenlik, ABD Hükümeti’nin en önemli sorumlulukları arasındadır ve güvensiz veya başka türlü savunmasız AI sistemleri kabul edilemez” deniliyor mektupta.
Senatörler, 13 Ağustos 2024 tarihine kadar yanıtlanmasını istedikleri bazı kritik bilgiler talep ettiler. İstenen bilgiler arasında şunlar bulunuyor:
– OpenAI’nin bilgisayar kaynaklarının %20’sini AI güvenlik araştırmalarına ayırma taahhüdü.
– Şirketin şu anki ve eski çalışanlar için uyguladığı gizlilik anlaşmalarının durumu.
– Çalışanların siber güvenlik ve güvenlik endişelerini dile getirme prosedürleri.
– AI modellerinin, araştırmalarının veya fikri mülkiyetlerinin çalınmasını önlemek için güvenlik protokolleri.
– OpenAI’nin kendi Tedarikçi Davranış Kuralları’na uyumu, özellikle intikam almama politikaları ve ihbar kanalları.
– OpenAI’nın sistemlerini bağımsız uzmanlar tarafından test ettirme ve değerlendirme planları.
– Gelecekteki temel modellerin ABD hükümet ajansları tarafından ön dağıtım testleri için sağlanma taahhüdü.
– Dağıtılan modellerden elde edilen bulgular ve uygulanan post-release izleme uygulamaları.
– Dağıtılan modeller hakkında retrospektif etki değerlendirmelerinin kamuoyuna açıklanma planları.
– Biden-Harris yönetimine verilen gönüllü güvenlik ve güvenlik taahhütlerine uyumun belgelendirilmesi.
Senatörler, OpenAI’yi yakın zamanda yaşanan güvenlik uygulamaları ve siber güvenlik ihlalleri konusundaki iç anlaşmazlıklar hakkında sorguladı. Özellikle, OpenAI’nın çalışanlarını kamuya açık bir şekilde şirket uygulamaları hakkında endişelerini dile getirmeleri durumunda cezalandırabilecek maddeleri istihdam anlaşmalarından çıkartıp çıkarmayacağını sordular.
Bu kongre denetimi, artan AI düzenlemeleri ve güvenlik önlemleri üzerindeki tartışmaların yoğunlaştığı bir dönemde geliyor. Mektup, geçen yıl Beyaz Saray’a yapılan gönüllü taahhütlerden bahsederek, bunların AI güvenliği ve güvenliğinde güven inşa etmek için önemli bir adım olduğunu belirtiyor.
ABD’de bu yıl yapılacak seçimlerle birlikte Kamala Harris’in bir sonraki başkan olma ihtimali bulunuyor. Geçtiğimiz yıl İngiltere’deki AI Güvenlik Zirvesi’nde Harris, “Açık olmalıyız, şu anda zarar veren ve birçoğu için de varoluşsal hale gelen ek tehditler de var… Dünya genelinde insanlar, AI’nın desteklediği efsaneler ve dezenformasyon nedeniyle gerçeği yalandan ayıramadığı zaman bu tehditler gerçek olur” diyerek AI ve büyük teknoloji düzenlemelerinin zamanında ve kritik olduğunu belirtmişti.
Birleşmiş Milletler Danışmanı Chelsea Alves, “Kamala Harris’in AI ve büyük teknoloji düzenlemelerine yaklaşımı hem zamanlı hem de kritik, özellikle de başkanlık yarışına girerken. Onun politikaları, modern teknolojinin karmaşıklıkları ve bireysel gizlilik konularında nasıl yol almamız gerektiğine dair yeni standartlar belirleyebilir” diye ekledi.
OpenAI’nın bu sorulara vereceği yanıtlar, AI yönetimi ve teknoloji şirketleri ile hükümet denetim organları arasındaki ilişkinin geleceği üzerinde önemli etkiler yaratabilir.
Kaynak: [Ryan Daws](https://www.artificialintelligence-news.com/news/author/ryan/)