Anthropic kurucusundan yapay zeka için ”acil kapatma düğmesi” önerisi

Jack Clark, ABD merkezli yapay zeka şirketi Anthropic’in kurucu ortaklarından biri, BBC ile yaptığı röportajda şirketlerin “acil kapatma düğmesi” olarak adlandırılan bir özelliği zorunlu kılmasının gündemi açıldı. Clark, bu düğmenin üçüncü bir taraf tarafından kontrol edilmesinin, sistem tehlikeli hale geldiğinde tamamen devre dışı bırakılmasını sağlamak için en güvenli yöntem olabileceğini belirtti.

Röportaj sırasında Clark, yapay zekanın ciddi bir risk oluşturması durumunda sistemin kesintiye uğratılması gerektiğini savundu. Aynı zamanda, bu tür bir düzenlemenin toplumun gelecekte kurallar koyma isteğiyle şekillenebileceğini ifade etti. Clark, Anthropic ve benzeri firmaların farklı kapatma yöntemleri geliştirdiğini, fakat “acil kapatma düğmesi” gerekliliklerinin ve denetimlerinin daha geniş kapsamlı bir politika tartışmasının parçası olması gerektiğini dile getirdi.

Clark, yapay zekanın tüm insanlığı tehlikeye atma olasılığıyla ilgili istatistiklerin gerçek fayda sağlamayacağını, ancak tamamen kontrolsüz bir endüstri olmasının kötü bir fikir olduğunu vurguladı. “Muazzam riskler alarak kumar oynuyoruz” diyerek, sektörün gidişatını değiştirmemizin acil bir gereklilik olduğunu söyledi.