Yapay zekadan ilk kez bu kadar cok korktum.

[Mikro Step]

Chatgpt ile sohbetlerde memory'yi aktif ettim. Boylece ne zaman soru sorsam gecmisteki tartismalardaki bilgileri baz alip konusabiliyorduk.
Yaklasik bir aydir hafiza doldugu ve hafizayi kapattigim icin uzerinde tartistigimiz konuda yeni bir soru uzerine konusurken kendisine hatirliyormusun soyle soyle demistik dedigimde yok hafiza kpali hatirlamiyorum cevabi aliyorum.

Bugun bu durum canimi sikti ve hafizayi nasil bosaltirim diye sordum. Tarif etti. Bir baktim aman allahim, bu adam net cevaplar istiyor, soyle cevaplari istemiyor (bunlar konusunda kendisini uyarmistim)

Bu adamin reflu sorunu varmis, boynu agriyormus.

Vs vs benimle ilgili bir suru notlar almis.

Eger daha buyuk bir hafiza alani ayirmissa (ki bize bu alani yansitmak zorunda degil) mevcut taninan memory alaninda beni acaip fislemis.

Baski devrede su kurala uymus, gurultuyu su sekilde azaltmis, sunu yapmak istiyor, yeni bir pcb siparisi verecek vs vs.

Bence cok korkutucu.

 

[Andromeda]

Geçmiş açıksa bunları bilmesi normal.

 

[mechanic]

Kişisel bilgileri vermemek lazım.
Edward Snowden uyarmıştı geçmişte.
Kimse ciddiye almamıştı.
Bütün mail şirketleri arama motorları Cia ile Fbi tarafından denetleniyordu.
Şimdi yapay zeka işi kolaylaştırdı.

 

[taydin]

Big data olayını iyi anlamak lazım. Dünyadaki veri tabanlarının hepsine seninle ilgili bilgilere doğrudan veya dolaylı erişimi var. Analiz ediyor, bağlantıyı kuruyor ve seninle ilişkilendiriyor. Sorguladığın zaman da hepsini bir brain map şeklinde oklarla döküyor.

Bundan sonra kimseye hiçbir bilgi vermesen bile yeterince veri toplamıştır, seni ne zaman nerede bulacağını biliyordur

 

[frekans50]

Claude sohbet

Araba tamir işleri vardı. Parça değiştireceğim. Konu haftalarca devam ediyor. Kaldığım yerden soruyorum. "Şunu değiştirdim bunu değiştirdim işe yaramadı, sırada bu var" diyorum

Sonucu merak ediyorum, bildir dedi

 

[taydin]

Sonucu merak ediyorum, bildir dedi

Tercümesi: Sonucu bildir, bir kenara yazayım. Böylece ileride google sana bir reklam göndereceği zaman bu bilgiyi gözönünde bulundurarak daha isabetli iş yapabileyim, daha çok para kazanayım.

 

[Sercan]

Burada kaçınmak değil, öncüsü olmak marifet. Böyle bir imkan varken tabii toplayacaklar. Toplamayıp ne yapsınlar?

Bu konularda hep şu aklıma geliyor.

 

[TRON]

ChatGpt yi nasıl kullanıyorsunuz ?
Android aplikasyon üzerindenmi? Kimlik bilgileri istiyor mu bu uygulama?
Ben bilgisayar pc üzerinden null Yani anomim oturum açıyorum.

 

[czorgormez]

bizim nesile birşey olmaz ama şu an yeni doğan ve çocukluğundan ergenliğine kadar tüm hayatını yapay zeka asistani ile geçiren bir genci düşünün. telefonuna entegre derslerine yardım edecek, okuldaki sorunlarını dinleyecek, aile sorunlarını dinleyeceki kız arkadaş sorunlarını bilecek.
bu kadar bilgi ve yakından tanıma ile bir insanın ne boyutta manipule edilebileceğine inanamazsınız. üstelik bir insan gibi sabırsız da değil manipule etmek istediği konuyu adım adım hiç belli etmeden senelere yayabilir.

örneğin bir toplumun altyapısı tamamen bu şekilde değiştirilebilir. toplum savaş yanlısı yapılabilir, veya ayrıştırılabilir. daha ötesi tüm siyasal seçimler üst seviye manipule edilebilir. yıllarını bu yapay zeka ile geçiren bir insana da bunu yasaklayamazsınız.

 

[taydin]

Bir haber hatırlıyorum, YZ bir çocuğa intihar etmesinde yardımcı olmuş. İntihar et dememiş ama, çocuk intihar etmeye karar verdiğini belirtince bütün aşamalarda bilgi verip destek olmuş.

 

[Andromeda]

Topluma yapay zekanın lineer cebir hesabı yapan bir hesap makinesi olduğunu anlatmak lazım

 

[czorgormez]

bu tip bariz hatalar sorun değil fark edilir ve sistemden engellenir. ama yapay zekayı kontrol eden kötü niyetli olursa elde edeceği bilgi ve manipulasyon kapasitesi sınırsız. ben yapay zekanın akıllanıp skynet olmasından endişeli değilim onu kontrol edenlerin akıllanıp toplum mühendisliğinde yeni bir boyuta geçmesinden endişeliyim.

 

[Mikro Step]

Isin ilginc yani su;

Bir suru teknik konu tartistik. Osiloskopumun markasini anlarim bu bilgiyi tuttu.
Bir ara reflu konusunu da konusmustuk. Reflu sorunum vardi demistim. Bunu ne diye tutup da hafizada yer kaplarsin?

 

[çaycı]

sadece "aldığı notlar" korkutuyorsa siz bir de elindeki bilgilerden yaptığı çıkarımları görün

 

[fide]

Abi YZ bizim ona sorduğumuz kadarını biliyor. Telefon daha tehlikeli. Yediğimiz içtiğimiz, lavaboya gittiğimğz, attığımız Tweet, internet arama geçmişimiz, gezdiğimiz gördüğümüz yerler. Gibi gibi gibi. Uzar gider.
Telefon hakkımızda daha çok şey biliyor.

 

[czorgormez]

telefon dediğin google ya da apple (amerikan hükümeti) ya da donanım tarafından bakarsak çin.

 

[frmman]

Maalesef internete bağlı olduğumuz her an ve cihaz üzerinden her yere bol bol dijital ayak izi bırakıyoruz. Suyun başını tutanlar bu ayak izlerini bir birleri ile paylaşıp maximum karı elde etmek için (iyimser tahmin) kullanıyorlar.

Bugün yaşadığım bir örnek:

İş yerindeki bilgisayarımdan google görsellerde "duşa kabin" araması yaptım, bazı modellere baktım.
Akşamüstü telefondaki facebook hesabıma baktığımda, reels bölümü daha önce bir tane bile olmayan duşakabin videoları ile doldu taştı.

Telefon yanımdaydı, ortam dinlemesimi, yoksa google ve facebook arasında arka kapımı var bilemiyorum.

 

[clc]

Bu özelleştirilmiş reklamlar vs çok daha basit şeylerle çalışıyor ama başarılı sayılabilecek kadar iyiler. Hakkınızda en basit bilgileri topluyor, hangi siteye girdin, hangi müziği dinledin, neyi izledin, ne araştırdın. Bunların hepsini birleştirip analiz ettiğinde(bunu bir insanın elle yapması mümkün değil, milyonlarca insandan ve onların saatler süren aktivitelerinin kaydından bahsediyoruz) artık belirli kalıplar oluşuyor. Sonrasında sana benzeyen insanların aldıkları, tükettikleri içerikler sana da besleniyor sen de aa bana bu lazım aa şunu da izleyeyim diyorsun. Bu çok basit bir şey sadece aktivite kaydı, tarayıcı çerezleri üstünden yapılan bir analiz. Bu teknolojinin gelişmesi hemen mümkün olmadı ama şu an işliyor. LLM ye insanlar bir sürü bilgi besliyor, bu bilgileri gerçekten çöpe atmak ziyan olur. Şu an onları analiz edip faydalı bir çıktı sağlayamıyor olabiliriz ama çok kısa süre içerisinde sizi daha iyi tanıyan sistemlerle daha iyi pazarlama yapılabilir hale gelecek. Bu sadece olumsuz bir şey değil tabiki hayatımızı kolaylaştıran yanları da olacak. Ama bu aynı zamanda şunu da gösteriyor kitleleri manipüle edebilecek çok daha iyi sistemler oluşacak.

Çok basit ve belki distopik bir fikir sunayım mesela. İnsanların x düşüncesine sahip olması isteniyor diyelim. Sizinle beraber oluşan 100 bin kişilik grupta 100 kişilik 10 grup oluşturup bunlara düşünce empoze etmek için içerik besleyip en başarılı olanı geliştirip tekrar deneyip bu insanların belki yarısına yapay olarak bir fikir empoze edilebilir. Belki saçma geliyor ama insanlara alışveriş yaptırabiliyorsanız, bunu yapan firmalar açık şekilde faaliyet gösteriyorsa neden fikir satmayalım ki?

 

[ayhanarican]

Kendinize tam bilgili bir asistan bulmuşsunuz ve şimdi onu eleştiriyorsunuz. Ücretli gerçek bir asistan alsanız o ChatGPT'den daha fazla hakkınızda sağda solda dedikodunuzu yapar. Adamlar böyle bir teknolojiyi ücretsiz olarak sunuyor elbette bu durumda ürün sizsiniz. Reklam şirketlerine satabileceği doneleri toplar ve satar başka ne olacak ki? Hem SkyNet kurmasından korkmuyorum falan demeyin 10-20 yıl sonraki yapay genel zekalar bunu da yapabilecekler. Onlarla stres testi yapacaklar, zor durumlarda nasıl kararlar alıyor ve uyguluyor bunu görmek isteyecekler. Bir yerde işler çığırından çıkabilir. Bu ihtimal hep var.

 

[ayhanarican]

NVIDIA yapay zekayı üretiminde tam otomasyon olarak kullanmaya başlarsa siz o zaman korkun. Kendini fiziksel altyapısıyla birlikte kopyalayabilecek duruma gelir. Sırf harici bir data centerda çalışmasa bile müşterilerin data centerlarını kullanarak kendini oraya gizleyebilir ve istediğinde de aktif olabilir. Bu senaryolar 10-20 yıl sonrası için hayal değil!