Anthropic kurucu ortağı Jack Clark, yapay zekanın insan müdahalesi olmadan gelişebileceği noktaya yaklaşıldığını belirterek sektörde bir yapay zeka “fren pedalı” oluşturulması gerektiğini söyledi. Clark, mevcut durumda yalnızca gaz pedalı bulunduğunu, hükümet politikaları aracılığıyla kontrol mekanizmaları geliştirilmesi gerektiğini vurguladı.
Yapay zeka şirketi Anthropic’in kurucu ortaklarından Jack Clark, BBC Newsnight programında yaptığı açıklamada, yapay zeka sistemlerinin artık insan katkısı olmadan gelişebilecek bir noktaya yaklaştığı uyarısında bulundu. Clark, “Ayağınızı gazdan çekip frene basabilme seçeneğiniz olmasını istersiniz. Şu anda yapay zeka sektörünün bir gaz pedalı var, ancak fren pedalı yok” dedi.
Yapay zeka gelişimi için düzenleme çağrısı
Clark, giderek daha güçlü hale gelecek yapay zeka sistemleri üzerinde insanların kontrolü koruması gerektiğini belirtti. “Dünya olarak biraz düşünmemiz ve bu sistemlere güvenmemizi sağlayacak yeni düzenlemeler geliştirmemiz gerekiyor” ifadelerini kullandı.
Anthropic’in sohbet robotu Claude, kodunun yüzde 80’ini sistemin kendi yazdığı bir yapı üzerinde çalışıyor. Clark, iki yıl içinde bunun yüzde 100’e ulaşmasının mümkün olduğunu ve bunun “çok büyük sonuçlar doğuracağını” söyledi.
Sektörün yapay zeka fren pedalı tartışması
Clark, yapay zeka araştırma ve geliştirme için bir “fren pedalı”nın nasıl oluşturulabileceğini detaylı olarak açıklamadı. Ancak geçen yüzyıldaki petrol patlamasıyla bağlantı kurarak, toplumun petrolün faydaları konusunda güven verecek politika ve düzenleyici çerçeve oluşturduğunu hatırlattı.
Buna karşın Anthropic, bu hafta ABD Başkanı Donald Trump’ın yapay zeka şirketlerine müdahaleleri kısıtlı tutan başkanlık kararnamesini memnuniyetle karşıladı. Kararnamede, yapay zeka şirketlerinin hükümet tarafından güvenlik testlerine tabi tutulması zorunlu kılınmadı; bu halen gönüllü bir uygulama olarak devam ediyor.
Anthropic, OpenAI ve Google dahil büyük yapay zeka şirketleri kendi araştırmalarını durduracaklarını açıklamadı.
Ekonomik düzende sarsıntı riski
Clark, yapay zekanın sürekli ilerlemesinin toplumsal sonuçları konusunda endişe ettiğini belirtti. “Toplum olarak yapay zekanın sürekli ilerlemesinin ne anlama geldiği konusunda ciddi bir tartışma yapmazsak çocuklarım için endişe ederim. Potansiyel olarak büyük faydalar var. Aynı zamanda riskler de var” dedi.
Risklerden birinin ekonomik düzende yaşanabilecek sarsıntı olduğunu belirten Clark, “ajanlar” olarak adlandırılan otonom yapay zeka araçlarının bazı işleri devralabileceği yönündeki endişelere işaret etti. Büyük teknoloji şirketleri son bir yılda, yapay zeka araçlarının yazılım mühendislerinin işini yapabilme kapasitesi nedeniyle toplu işten çıkarmalar gerçekleştirdi.
Yaratıcılık avantajı ve gençlere öneriler
Clark, daha yaratıcı olan ve daha iyi fikirler üretebilen kişilerin yapay zeka teknolojisine karşı avantajlı olabileceğini söyledi. “Yapay zeka sistemlerinin gerçekten yaratıcı olup olamayacağı konusunda açık sorular var. Bunun için henüz gerçekten bir kanıt yok” dedi.
Yapay zeka temelli bir ekonomide kendine yer olmadığını düşünen gençlere “bir hobi geliştirmesini” ve sosyal bilimler odaklı bir eğitim almasını öneren Clark, “Yaratıcı olan, geniş düşünebilen, çok okuyan ve farklı ilgi alanlarına sahip insanlar bu süreçten en çok fayda sağlayanlar. Merakı teşvik edin” ifadelerini kullandı.
AI2027 senaryosu ve geçmiş uyarılar
BBC Türkçe’nin 1 Ağustos 2025 tarihli haberine göre, yapay zeka uzmanlarının kaleme aldığı AI2027 adlı senaryo, yapay zekanın 2027’de kontrolden çıkabileceğini ve sonraki 10 yıl içinde insanlığın sonunu getirebileceğini iddia etmişti. Senaryoda, ABD ve Çin arasındaki yapay zeka yarışının, güvenlik uyarılarının görmezden gelinmesine yol açtığı öngörülüyordu.
AI2027’nin baş yazarı Daniel Kokotajlo’nun geçmişte yapay zeka ile ilgili dönüm noktalarını doğru tahmin etmesiyle gündeme geldiği belirtilirken, ABD’li bilim insanı Gary Marcus senaryonun yakın zamanda gerçekleşme olasılığının düşük olduğunu savunmuştu.
Anthropic, beş yıl önceki kuruluşundan bu yana o kadar hızlı büyüdü ki halka arz için hazırlık yapıyor. Özel yatırımcılar şirketin değerini yaklaşık 1 trilyon dolar olarak tahmin ediyor.
