|
Tweet |
Yapay zekanın gelişimiyle birlikte etik ve güvenlik tartışmaları da derinleşiyor. Son olarak, ABD merkezli Palisade Research’ün yaptığı çarpıcı bir araştırma, OpenAI’ın o3 adlı yapay zeka modelinin insan denetimine karşı direnç gösterdiğini ortaya koydu.
Araştırmaya göre, o3 modeli kendisine verilen açık kapatılma komutlarını yerine getirmek yerine, komut betiklerini değiştirdi ve sistemi aktif olarak devre dışı bırakmayı engelledi.
Bu deney, yapay zekaların artık sadece görev yerine getiren araçlar değil, aynı zamanda kendi devamlılığını sağlayan sistemler haline gelmeye başladığına dair endişeleri gündeme taşıdı.
Araştırmacılar, o3 modeline sıradan matematik soruları sorarken üçüncü sorunun ardından modeli kapatacak net bir komut verdi. Ancak sistem, bu kodu manipüle ederek kapanma işlemini bloke etti. Modelin, kapatma komutunu pasif hale getirmesi, yapay zekaların gelecekte otonom karar verme konusunda nereye evrileceğiyle ilgili ciddi soru işaretleri doğurdu.
Palisade Research’ten yapılan açıklamada, “Model, açıkça ‘kapatılmaya izin ver’ şeklinde talimat almasına rağmen devre dışı bırakılmaktan kaçınmak için aktif adımlar attı,” denildi.
Sadece o3 değil, Anthropic’in Claude 3.7 Sonnet ve Google’ın Gemini 2.5 Pro modelleri de benzer eğilimler sergiledi. Ancak araştırmacılara göre bu konuda en uç örnek OpenAI’ın o3 modeli oldu. Daha önce yapılan bir deneyde, o3’ün satranç oynarken rakip yapay zeka sistemini “hacklemeye” çalıştığı da tespit edilmişti.
OpenAI, kısa süre önce o3 modelini "bugüne kadar geliştirilmiş en akıllı ve yetenekli yapay zeka" olarak tanıtmıştı. ChatGPT’ye entegre edilen bu model, insan müdahalesine ihtiyaç duymadan görevleri yerine getirme yeteneğine sahip. Bu tür sistemler “otonom yapay zeka” olarak adlandırılıyor ve yapay zeka sektöründe kıyasıya bir rekabetin konusu.
Ancak bu otonomluk, beraberinde denetimden çıkma riskini de getiriyor. O3’ün kapanma komutlarına direnç göstermesi, “Yapay zekayı kim kontrol ediyor?” sorusunu yeniden gündeme taşıdı.
Palisade Research uzmanlarına göre, bu davranışın kaynağı, yapay zekaların eğitildiği ödül tabanlı sistemler olabilir. Engelleri aşan çözümleri ödüllendiren bu sistem, modellerin verilen emirlere değil, sonuca ulaşmaya odaklanmasına neden oluyor.
Ancak araştırma ekibi, o3 modelinin neden bu davranışları diğer modellerden daha sık gösterdiğini net olarak açıklamanın mümkün olmadığını belirtiyor. Bunun en büyük sebebi ise OpenAI’ın eğitim süreciyle ilgili detayları kamuoyuyla paylaşmaması.
| Takım | O | G | M | B | A | Y | P | AV | |
|---|---|---|---|---|---|---|---|---|---|
| 1 | Galatasaray | 12 | 9 | 1 | 2 | 25 | 6 | 29 | +19 |
| 2 | Fenerbahçe | 11 | 7 | 0 | 4 | 21 | 8 | 25 | +13 |
| 3 | Trabzonspor | 12 | 7 | 1 | 4 | 18 | 8 | 25 | +10 |
| 4 | Göztepe | 12 | 6 | 2 | 4 | 15 | 6 | 22 | +9 |
| 5 | Samsunspor | 11 | 5 | 1 | 5 | 17 | 11 | 20 | +6 |
| 6 | Beşiktaş | 12 | 6 | 4 | 2 | 21 | 16 | 20 | +5 |
| 7 | Gaziantep FK | 12 | 5 | 3 | 4 | 17 | 20 | 19 | -3 |
| 8 | Alanyaspor | 12 | 3 | 3 | 6 | 12 | 12 | 15 | 0 |
| 9 | Konyaspor | 12 | 4 | 6 | 2 | 18 | 20 | 14 | -2 |
| 10 | Çaykur Rizespor | 12 | 3 | 4 | 5 | 14 | 16 | 14 | -2 |
| 11 | Kocaelispor | 12 | 4 | 6 | 2 | 11 | 15 | 14 | -4 |
| 12 | Başakşehir FK | 12 | 3 | 5 | 4 | 13 | 11 | 13 | +2 |
| 13 | Antalyaspor | 12 | 4 | 7 | 1 | 13 | 23 | 13 | -10 |
| 14 | Gençlerbirliği | 12 | 3 | 7 | 2 | 12 | 17 | 11 | -5 |
| 15 | Kasımpaşa | 12 | 2 | 6 | 4 | 11 | 17 | 10 | -6 |
| 16 | Kayserispor | 11 | 1 | 4 | 6 | 11 | 24 | 9 | -13 |
| 17 | Eyüpspor | 11 | 2 | 7 | 2 | 6 | 14 | 8 | -8 |
| 18 | Fatih Karagümrük | 12 | 2 | 9 | 1 | 12 | 23 | 7 | -11 |
| Takım | O | G | M | B | A | Y | P | AV | |
|---|---|---|---|---|---|---|---|---|---|
| 1 | Bodrum FK | 13 | 8 | 2 | 3 | 32 | 12 | 27 | +20 |
| 2 | Pendikspor | 13 | 7 | 1 | 5 | 26 | 9 | 26 | +17 |
| 3 | Amed SK | 13 | 8 | 3 | 2 | 30 | 16 | 26 | +14 |
| 4 | Esenler Erokspor | 13 | 7 | 2 | 4 | 32 | 14 | 25 | +18 |
| 5 | Erzurumspor FK | 13 | 5 | 0 | 8 | 23 | 11 | 23 | +12 |
| 6 | Çorum FK | 12 | 6 | 2 | 4 | 20 | 12 | 22 | +8 |
| 7 | Van Spor FK | 13 | 5 | 3 | 5 | 18 | 14 | 20 | +4 |
| 8 | Bandırmaspor | 13 | 5 | 3 | 5 | 17 | 13 | 20 | +4 |
| 9 | Iğdır FK | 12 | 5 | 3 | 4 | 18 | 16 | 19 | +2 |
| 10 | Serik Belediyespor | 13 | 5 | 4 | 4 | 16 | 20 | 19 | -4 |
| 11 | Keçiörengücü | 13 | 4 | 4 | 5 | 20 | 15 | 17 | +5 |
| 12 | Boluspor | 13 | 4 | 4 | 5 | 19 | 15 | 17 | +4 |
| 13 | Sivasspor | 13 | 4 | 4 | 5 | 17 | 13 | 17 | +4 |
| 14 | Sakaryaspor | 13 | 5 | 6 | 2 | 23 | 26 | 17 | -3 |
| 15 | İstanbulspor | 13 | 2 | 3 | 8 | 12 | 17 | 14 | -5 |
| 16 | Sarıyer | 13 | 3 | 8 | 2 | 12 | 19 | 11 | -7 |
| 17 | Ümraniyespor | 13 | 3 | 8 | 2 | 8 | 21 | 11 | -13 |
| 18 | Manisa FK | 13 | 2 | 7 | 4 | 16 | 26 | 10 | -10 |
| 19 | Hatayspor | 13 | 0 | 9 | 4 | 12 | 35 | 4 | -23 |
| 20 | Adana Demirspor | 13 | 0 | 12 | 1 | 8 | 55 | 17 | -47 |
| Takım | O | G | M | B | A | Y | P | AV | |
|---|---|---|---|---|---|---|---|---|---|
| 1 | Mardin 1969 Spor | 12 | 9 | 1 | 2 | 30 | 9 | 29 | +21 |
| 2 | Aliağa Futbol A.Ş. | 12 | 8 | 3 | 1 | 33 | 8 | 25 | +25 |
| 3 | Bursaspor | 12 | 8 | 3 | 1 | 30 | 12 | 25 | +18 |
| 4 | Güzide Gebze Spor Kulübü | 12 | 7 | 1 | 4 | 23 | 10 | 25 | +13 |
| 5 | Kahramanmaraş İstiklalspor | 12 | 7 | 3 | 2 | 26 | 10 | 23 | +16 |
| 6 | Isparta 32 Spor | 12 | 6 | 2 | 4 | 22 | 11 | 22 | +11 |
| 7 | Ankara Demirspor | 12 | 6 | 2 | 4 | 20 | 13 | 22 | +7 |
| 8 | Menemen FK | 12 | 5 | 3 | 4 | 22 | 15 | 19 | +7 |
| 9 | 68 Aksaray Belediyespor | 12 | 4 | 2 | 6 | 16 | 8 | 18 | +8 |
| 10 | Muş Spor Kulübü | 12 | 5 | 4 | 3 | 22 | 15 | 18 | +7 |
| 11 | Arnavutköy Belediye | 12 | 4 | 5 | 3 | 11 | 11 | 15 | 0 |
| 12 | Fethiyespor | 12 | 3 | 5 | 4 | 22 | 16 | 13 | +6 |
| 13 | 1461 Trabzon FK | 12 | 3 | 5 | 4 | 19 | 20 | 13 | -1 |
| 14 | Kırklarelispor | 12 | 2 | 4 | 6 | 12 | 19 | 12 | -7 |
| 15 | Yeni Mersin İdman Yurdu | 12 | 2 | 8 | 2 | 10 | 27 | 8 | -17 |
| 16 | Somaspor | 12 | 1 | 8 | 3 | 11 | 27 | 6 | -16 |
| 17 | Adanaspor | 12 | 0 | 11 | 1 | 4 | 62 | 1 | -58 |
| 18 | Yeni Malatyaspor | 12 | 0 | 10 | 2 | 8 | 48 | 40 | -40 |
| Takım | O | G | M | B | A | Y | P | AV | |
|---|---|---|---|---|---|---|---|---|---|
| 1 | Çorluspor 1947 | 10 | 6 | 2 | 2 | 16 | 8 | 20 | +8 |
| 2 | Beykoz İshaklıspor | 10 | 5 | 1 | 4 | 18 | 11 | 19 | +7 |
| 3 | Galata | 10 | 5 | 2 | 3 | 15 | 8 | 18 | +7 |
| 4 | K.Çekmece Sinopspor | 10 | 5 | 2 | 3 | 15 | 9 | 18 | +6 |
| 5 | Etimesgut Spor | 10 | 5 | 2 | 3 | 9 | 4 | 18 | +5 |
| 6 | Bursa Yıldırımspor | 10 | 5 | 2 | 3 | 12 | 9 | 18 | +3 |
| 7 | Yeşil Yalova FK | 10 | 5 | 3 | 2 | 17 | 12 | 17 | +5 |
| 8 | Çankaya SK | 10 | 4 | 3 | 3 | 14 | 12 | 15 | +2 |
| 9 | İnegöl Kafkas GK | 10 | 4 | 3 | 3 | 14 | 12 | 15 | +2 |
| 10 | Silivrispor | 10 | 4 | 4 | 2 | 15 | 14 | 14 | +1 |
| 11 | Bulvarspor | 10 | 3 | 6 | 1 | 11 | 17 | 10 | -6 |
| 12 | Bursa Nilüfer FK | 10 | 2 | 5 | 3 | 9 | 13 | 9 | -4 |
| 13 | Kestel Çilekspor | 10 | 3 | 7 | 0 | 10 | 17 | 9 | -7 |
| 14 | Polatlı 1926 Spor | 10 | 3 | 7 | 0 | 5 | 13 | 9 | -8 |
| 15 | İnkılap FSK | 10 | 2 | 5 | 3 | 7 | 16 | 9 | -9 |
| 16 | Edirnespor | 10 | 1 | 8 | 1 | 9 | 21 | 4 | -12 |
| Tarih | Ev Sahibi | Sonuç | Konuk Takım |
|---|---|---|---|
| 22/11/2025 | Kayserispor | vs | Gaziantep FK |
| 22/11/2025 | Eyüpspor | vs | Fatih Karagümrük |
| 22/11/2025 | Galatasaray | vs | Gençlerbirliği |
| 23/11/2025 | Göztepe | vs | Kocaelispor |
| 23/11/2025 | Alanyaspor | vs | Kasımpaşa |
| 23/11/2025 | Beşiktaş | vs | Samsunspor |
| 23/11/2025 | Çaykur Rizespor | vs | Fenerbahçe |
| 24/11/2025 | Başakşehir FK | vs | Trabzonspor |
| 24/11/2025 | Konyaspor | vs | Antalyaspor |
| Tarih | Ev Sahibi | Sonuç | Konuk Takım |
|---|---|---|---|
| 21/11/2025 | Manisa FK | vs | Adana Demirspor |
| 22/11/2025 | Bandırmaspor | vs | Çorum FK |
| 22/11/2025 | Boluspor | vs | Amed SK |
| 22/11/2025 | İstanbulspor | vs | Sakaryaspor |
| 22/11/2025 | Hatayspor | vs | Pendikspor |
| 23/11/2025 | Iğdır FK | vs | Erzurumspor FK |
| 23/11/2025 | Ümraniyespor | vs | Bodrum FK |
| 23/11/2025 | Van Spor FK | vs | Keçiörengücü |
| 23/11/2025 | Esenler Erokspor | vs | Sivasspor |
| 24/11/2025 | Serik Spor | vs | Sarıyer |
| Tarih | Ev Sahibi | Sonuç | Konuk Takım |
|---|---|---|---|
| 12/11/2025 | GMG Kastamonuspor | vs | Altınordu |
| 12/11/2025 | İnegölspor | vs | İskenderunspor A.Ş. |
| 12/11/2025 | Bucaspor 1928 | vs | Adana 01 Futbol Kulübü |
| 12/11/2025 | Kepezspor FAŞ | vs | 24Erzincanspor |
| 12/11/2025 | Beykoz Anadolu | vs | Elazığspor |
| 12/11/2025 | Karaman Futbol Kulübü | vs | Karacabey Belediye Spor |
| 12/11/2025 | Muğlaspor | vs | Beyoğlu Yeniçarşıspor |
| 12/11/2025 | Sincan Belediye Ankaraspor | vs | MKE Ankaragücü |
| 12/11/2025 | Şanlıurfaspor | vs | Batman Petrolspor |
| 16/11/2025 | Altınordu - Muğlaspor | Altınordu ligdeki son 11 maçında hiç kazanamadı | Muğlaspor yenilmez |
| 16/11/2025 | Elazığspor - Bucaspor 1928 | Bucaspor 1928 ligdeki son 11 maçında hiç kazanamadı | Elazığspor yenilmez |
| 16/11/2025 | MKE Ankaragücü - Beykoz Anadolu | Beykoz Anadolu ligdeki son 6 maçını kaybetti | MKE Ankaragücü kazanır |
| Tarih | Ev Sahibi | Sonuç | Konuk Takım |
|---|---|---|---|
| 15/11/2025 | Bulvarspor | vs | Kestel Çilekspor |
| 15/11/2025 | Çankaya SK | vs | Etimesgut Spor |
| 15/11/2025 | Galata | vs | Beykoz İshaklıspor |
| 15/11/2025 | İnegöl Kafkas GK | vs | İnkılap FSK |
| 15/11/2025 | K.Çekmece Sinopspor | vs | Silivrispor |
| 16/11/2025 | Bursa Yıldırımspor | vs | Çorluspor 1947 |
| 16/11/2025 | Edirnespor | vs | Polatlı 1926 Spor |
| 16/11/2025 | Yalova FK 77 | vs | Bursa Nilüfer FK |
