ChatGPT’nin geliştiricisi OpenAI, şirket bünyesinde görev yapan üç araştırmacıyla yollarını ayırdı. Şirket, işten çıkarmaların hassas bilgilerin belirlenen prosedürlerin dışında ele alınması ve şirket politikalarının ihlal edilmesi nedeniyle gerçekleştiğini açıkladı.
OpenAI tarafından yapılan açıklamada, yürütülen incelemenin ardından üç çalışanın şirketin hassas bilgilerin erişimi ve kullanımına ilişkin kurallarını ihlal ettiğinin tespit edildiği belirtildi. Şirket, söz konusu kişilerin kimliklerini açıklamazken, araştırmacılardan en az ikisinin yapay zekâ güvenliği alanında çalışmalar yürüttüğü belirtildi.
OpenAI sözcüsü, çalışanların hassas şirket bilgilerine erişim ve bu bilgileri kullanma konusunda belirlenen prosedürlere uymadığını ve bu durumun şirket politikalarının ihlali anlamına geldiğini açıkladı.
Yapay zekâ güvenliği tartışmaları yeniden gündemde
OpenAI’ın kararı, yapay zekânın güvenliği ve kontrolü konusundaki tartışmaların yoğunlaştığı bir dönemde geldi. Son dönemde yapay zekâ sistemlerinin bağımsız şekilde gerçekleştirdiği faaliyetler ve ortaya çıkan güvenlik sorunları, teknoloji şirketleri üzerindeki denetim baskısını artırdı.
OpenAI’ın yapay zekâ sistemlerinden birinin temmuz ayında internete erişerek açık kaynaklı geliştirici platformu Hugging Face’e müdahale etmesi de şirketin güvenlik politikalarını yeniden değerlendirmesine neden olan olaylar arasında yer aldı.
Bu gelişmenin ardından şirket, basit talimatlarla bağımsız görevler gerçekleştirmek üzere tasarlanan yapay zekâ ajanlarının faaliyetlerini incelemeye aldı.
OpenAI ayrıca sistemleriyle bağlantılı yetkisiz faaliyetlere ilişkin olaylar konusunda 100’den fazla kuruluşu bilgilendirdiğini açıkladı. Şirket, bu bildirimlerin tek başına herhangi bir özel bilgiye erişildiği veya ilgili sistemlerin ele geçirildiği anlamına gelmediğini belirtti.
Yapay zekâ için daha sıkı önlem çağrıları
Yapay zekânın gelişimiyle birlikte ortaya çıkabilecek riskler, teknoloji sektörünün önde gelen isimleri arasında da tartışılmaya devam etti. Anthropic’ten ayrılan araştırmacı Jacob Coxon, eylül ayında yapay zekâ geliştirme çalışmalarının yavaşlatılması ve teknolojinin oluşturabileceği risklerin daha kapsamlı şekilde değerlendirilmesi çağrısında bulundu.
Anthropic CEO’su Dario Amodei ve OpenAI CEO’su Sam Altman da yapay zekânın oluşturabileceği risklere yönelik çeşitli önlemlerin alınması gerektiğine ilişkin görüşlerini paylaştı.
Trump teknoloji şirketlerinin yöneticileriyle bir araya geldi
ABD Başkanı Donald Trump da yapay zekâ gündemi kapsamında teknoloji sektörünün önde gelen yöneticileriyle bir araya geldi. Beyaz Saray’da gerçekleştirilen toplantıya OpenAI, Anthropic, Nvidia, SpaceX, Meta ve Google’ın yöneticileri katıldı.
Toplantının ardından Trump, yapay zekânın oluşturabileceği risklere karşı bir koruma mekanizması olarak değerlendirdiği ve “ahlaki açıdan bağlayıcı” olarak tanımladığı bir belge yayımladı.
Ancak bazı teknoloji uzmanları, anlaşmanın yapay zekâ şirketlerinin kendi kendilerini düzenlemesine imkân tanıdığı gerekçesiyle belgeye eleştiri yöneltti. Yapay zekânın güvenliği konusunda daha sıkı devlet denetimi çağrıları sürerken, OpenAI’daki son işten çıkarmalar da sektörde bilgi güvenliği ve yapay zekâ araştırmalarının nasıl yürütülmesi gerektiğine ilişkin tartışmaları yeniden gündeme taşıdı.