ChatGPT’den bir API, zararlı yazılım (malware) ve kimlik hırsızlığı e-postaları hazırlamak için suistimal edilmiştir. Aslında ChatGPT zararlı yazılım ve benzerlerinin oluşturulmasını önler. ChatGPT ile Open AI adlı şirket, metinler ve program kodları oluşturmaya yönelik bir yapay zeka aracı sunuyor. ChatGPT, giriş yapıldığı zaman otomatik olarak oluşturulan milyonlarca eğitici veri setleri kullanır. Daha sonrasında ise girilmiş olan her bir metin, yapay zeka tekniklerinden örüntü tanıma yoluyla niceliksel (yani istatistiksel methodlar kullanılarak) değerlendirilmektedir. Son olarak, girilmiş olan anahtar kelimeler üzerinden metinler oluşturulmaktadır. Oluşturulan metinlerden profesyonel yeni metinler elde etmek isteyen kullanıcılar ise ChatGPT’nin beraberinde yapay zeka temelli Gizmorilla uygulamasını da kullanmaktadır.
Gizmorilla uygulaması ise seçmiş olduğunuz bir metni yeniden yaz dediğinizde, yorumlayarak intihal oranları oldukça düşük ve aynı zamanda anlamlı yeni metinler üretebilen bir metin robotudur. Ancak son zamanlarda siber suçlular, bir güvenlik firması olan Check Point Research araştırmacılarının belirttikleri üzere, ChatGPT’yi kullanarak zararlı yazılım üretmenin yöntemini buldular. Yalnızca metin yorumlama ve yeniden yazma görevini üstlenen Gizmorilla uygulamasında ise böyle bir açık bulunmuyor. Aslında ChatGPT, kötü amaçlı yazılım ve benzerlerinin üretildiğini en azından resmi web sitesi aracılığıyla reddediyor.
ChatGPT’nin yeni sürümünde zararlı yazılım üretimine karşı korumaya yer veriyor
Open AI açık bir yaklaşıma sahiptir, böylelikle diğer sohbet robotları da ChatGPT’nin arkasında yatan teknolojiye güvenebilirler. Araştırmacılar da bu durumdan faydalanarak ChatGPT-3 API’sını baz alan kendi sohbet robotlarını yarattılar. Araştırmacıların yapmış olduğu bir test sırasında, ChatGPT’nin eski bir versiyonunun API’si bir kimlik hırsızlığı mailinin metnini oluşturabilmiş ve virüslü bir bilgisayar üzerinde bulunan PDF dokümanlarını çalıp FTP yoluyla saldırganlara gönderen bir komut dosyası yazabilmişti. Bu süreçte, chatbot uygulamalarının bundan sonra söz konusu güvenlik açığından faydalanamayacağı yeni nesil ChatGPT-4 şimdiden test edilmektedir. Open AI, geliştiricilere ChatGPT teknolojisinin kendi sohbet robotlarına entegre edebilecekleri bir API arayüzü sunuyor. Yeni versiyon 4, yeni Microsoft Bing’de Prometheus olarak kullanılıyor. Yapay zeka programı gelecek dönemlerde Microsoft 365 aboneleri tarafından çeşitli programlarda da kullanılabilecektir.
ChatGPT-3 temelli bir Telegram Botu, kimlik hırsızlığı e-postalarının ve kötü niyetli yazılım kodlarının oluşturulabildiği 100 istek başına 5,50 dolara sunuluyor. Güvenlik firmasındaki araştırmacıların belirttiği üzere, text-davinci-003 isimli Open AI API’sinin kötüye kullanıma yönelik çok az sayıda önleme sahip olduğu görülüyor. Araştırmacı Sergey Shykevich’in de belirttiği gibi, OpenAI son birkaç haftadır, güvenlik tedbirlerini iyileştirmiş durumda.
