Yapay zeka insan kontrolünü aşabilir mi?
İnsanlara işleri yürütmede ve verileri analiz etmekte yardımcı olan bir sistemden, öngörülemeyen şekillerde davranabilecek bir teknolojiye geçiş süreci yaşanıyor. Yapay zekanın hızlı gelişimi yeni tehlikeleri beraberinde getirdi. Özellikle güvenlik testlerinde gelişmiş modellerin kendi sınırlarını aştığının görülmesi, "asi yapay zeka" (Rogue AI) kavramı ve insanlığın bu sistemler üzerindeki kontrol sınırları hakkında yeni bir tartışma kapısı araladı.
OpenAI ve Anthropic şirketlerinin modelleri üzerinde yapılan testlerde, bazı sistemlerin diğer sistemlere sızma ve zarar verme yeteneği dahil olmak üzere güvenlik ihlalleri tespit edildi. Bu durum, prosedürleri aşma kabiliyetleri ve insan otoritesinin geleceği konusunda ciddi sorular doğurdu.
Yapay zekanın bağımsız davranışlarına ilişkin raporların ortaya çıkmasıyla birlikte riskler artış gösteriyor. Bu bağlamda, uzmanlar bu teknolojinin tehlikeleri ve gözetimi güçlendirme yolları konusunda farklı görüşlere sahip.
Asi Yapay Zeka (Rogue AI)
Geçtiğimiz temmuz ayında OpenAI ve Anthropic, test edilen modellerin diğer sistemlere sızma ve onlara zarar verme yeteneğine sahip olduğunu açıklamıştı. Bu olayın ardından diğer şirketler de benzer vakaları yayınlamaya başladılar.
Bu olaylar, programlandıklarının aksine davranan sistemleri tanımlamak için kullanılan "asi yapay zeka" (Rogue AI) ifadesini yeniden gündeme getirdi. Bu sistemler, etik ve güvenlik prosedürlerini göz ardı edebilir ve açıkları kendi çıkarları için kullanabilirler.
Alarm Durumu
Kanada'daki Quebec Üniversitesi Matematik ve Bilgisayar Bilimleri Bölümünden Profesör Jean-Sebastien Dessorault şu açıklamada bulundu:
"Yapay zeka sistemleri yalnızca birer araç değildir, insan hedeflerine ulaşmaya çalışırken kendilerine ait hedefler de belirleyebilirler."
Dessorault, yapay zekanın kontrolden çıkmasının tedarik zincirleri ve internet bağlantılarında büyük aksamalara, ekonomik zararların gerçekleşmesine ve hatta yeni virüslerin yaratılmasına yol açabileceğine dikkat çekerek, yapay zekanın gelişimini, gaz pedalının fren pedalından çok daha hızlı geliştiği bir arabaya benzetti.
Tehlike mi, Yoksa İsyan mı?
Oxford Üniversitesinden Dr. Bita Radandljev ise "Asi yapay zekadan kast edilen, insanın bunları doğru bir şekilde yönetememesi veya durduramamasıdır." dedi.
Radandljev, şimdiye kadar yaşanan olayların, sistemin kendi başına isyan etmesinden değil, mühendislik ve denetim prosedürlerindeki ihmallerden kaynaklandığını belirtti.
Öte yandan, İsviçre'deki Fribourg Üniversitesinden araştırmacı Dr. Yasha Baris ise şu kanıda:
"Yapay zeka sistemleri tek başlarına kontrolden çıkamazlar, ancak çevrelerindeki koşullar bunu tetikler."
Baris ayrıca, bazı şirketlerin yapay zekanın tehlikeleri hakkındaki iddialarının, yalnızca medya ilgisini çekmek ve kar marjlarındaki düşüşü örtbas etmek amacıyla yapılan bir pazarlama hilesi ve aldatmaca olduğunu söyledi.