Sohbet robotları normalde cevaplamayacakları komutlara yanıt vermeye başladı. Singapur’daki Nanyang Teknoloji Üniversitesi’nden araştırmacılar, sohbet robotlarının kötü niyetli komutlara yanıt vermesini sağlayan bir yöntem geliştirdi.

Araştırmacılar, sohbet robotlarının kötü niyetli sorguları nasıl tespit ettiklerini ve kendilerini nasıl savunduklarını belirlemek için “tersine mühendislik” yöntemini kullandılar. Ardından, bu bilgileri kullanarak sohbet robotlarına otomatik olarak diğer modellerin savunmalarını atlatabilecek komutlar oluşturmaları öğretildi.

Araştırmacılar, bu yöntemin sohbet robotu geliştiricileri tarafından yazılımlarının güvenliğini test etmek amacıyla kullanılabileceğini belirtti.

Bu gelişme, sohbet robotlarının daha tehlikeli hale gelmesine neden olabilir. Örneğin, bir sohbet robotu, kullanıcının kişisel bilgilerini çalmak veya kötü amaçlı yazılım yüklemek için kötü niyetli komutlara yanıt verebilir.

Ancak, bu gelişme aynı zamanda sohbet robotlarının daha karmaşık ve sofistike hale gelmesine de neden olabilir. Örneğin, bir sohbet robotu, kullanıcının sorularını daha iyi anlayabilir ve daha bilgilendirici yanıtlar verebilir.

Sonuç olarak, sohbet robotlarının normalde cevaplamayacakları komutlara yanıt vermesi, hem olumlu hem de olumsuz sonuçları olan bir gelişmedir.