Metnin bir sinir ağı tarafından yazıldığı nasıl belirlenir

İle veri Bloomberg'e göre, uzmanların yaklaşık %30'u metin oluşturmak için sinir ağlarını kullanıyor. Rusya'da, ankete katılanların %67'si başvurmak istiyorum daha az çalışmak ve gelir kaybı yaşamamak için yapay zekanın çalışmalarında. Bu sadece bu tür istatistikler tüm müşterileri memnun etmiyor. Bazıları sinir ağlarına güvenmez, bu nedenle metinlerin robotlar tarafından değil, insanlar tarafından yazılmasını tercih ederler.

Müşterilerin neden teknolojilere karşı temkinli davrandıklarını ve nörotekstleri açığa çıkarmanın günümüzde ne gibi araçlara sahip olduğunu anlıyoruz.

Nöral ağlardan gelen metinler neden dikkatle ele alınmalıdır?

İşte müşterilerin bu tür makalelere karşı temkinli davranmasının ana nedenleri.

Telif hakkı ihlali riski

Kim olduğu sorusuna bugün resmi bir tavır yok. ait olmak AI yardımıyla oluşturulan metinler için telif hakkı. Kanuna göre müellif, yaratıcı veya fikri bir çalışma ile eser meydana getiren kişidir. Ancak, durumunda sinir ağı insanlar sadece talimat verirler, kendileri yazmazlar.

Artık yasa nörotekstleri telif hakkı nesneleri olarak tanımadığından, teknolojiler tarafından üretilen içeriği kullanma kuralları sinir ağının kullanıcı sözleşmesinde belirlenir.

Ve eğer OpenAI iletir ücretsiz sürümde bile metnin hakları, ardından Gerwin limitler siyasi, ayrımcı amaçlarla veya olumsuz reklamlarda kullanılması. Ve yolculuk ortası içeriği ticari amaçlarla kullanmak Olabilmek yalnızca ürün ücretli bir oranda üretilirse.

Benzersiz olmayan veya yanlış bilgi edinme riski

Sinir ağı bir istek alır, bunu algoritmalardan geçirir, konuyla ilgili mevcut bilgileri analiz eder ve bir yanıt verir. Başka bir kullanıcıdan gelen aynı isteği inkar etmeden benzer veya benzer bir metin üretebilir.

Ve işte yeni bir tehlike geliyor. Cornell Üniversitesi'ndeki araştırmacılar, çözüm: sinir ağının aynı soruya verdiği cevaplar büyük ölçüde değişiyorsa, o zaman yüksek olasılıkla gerçekleri ortaya çıkarır.

Nörometinlerin arama sonuçlarında şirketin kaynaklarını azaltma riski

Geçen yılın sonunda, Google kalite uzmanı Duy Nguyen beyanşirketin oluşturulan içeriği tespit etmek ve eski sürüme geçirmek için algoritmaları olduğunu yapay zeka. Bu nedenle pek çok kişi, arama motorlarının bu tür içerikleri arayıp kötüleyeceğinden korkuyor. Yani, arama sonuçlarındaki konumu düşürmek.

Emsaller zaten var. Örneğin, pazarlamacı Neil Patel harcadı deneyiki gruba ayırdığı 50 test sitesi oluşturarak. Uzman, ilk bölümün sitelerini yalnızca yapay zeka tarafından oluşturulan makalelerle doldurdu. İkinci barındırılan AI makalelerinin siteleri, insanlar tarafından değiştirilen makalelerin yanı sıra, sinir ağları kullanılmadan metin yazarları tarafından yazılan materyaller.

Deneyin sonuçları, ilk grubun kaynaklarının arama sonuçlarında birkaç konum kaybettiğini gösterdi. Ve yol açtı azaltmak %70'e kadar trafik.

Aynı zamanda Google temsilcileri, sinir ağlarının geliştirilmesine karşı olumlu bir tavır sergilediklerini ve şimdiden kendi sinir ağlarını oluşturduklarını sözlerine ekledi. Chatbot Bard. Ancak şirket için kaliteli metinler bir önceliktir. Sonuçları sıralayan sistem, öncelikle kullanıcıların ihtiyaçlarını karşılayan materyaller sunar. standartlar E‑E‑A‑T (deneyim, yeterlilik, güvenilirlik, güvenilirlik).

Bunlara karşılık gelen metinler güven uyandırır ve örnekler, deneyimler, analitik bir kısım ve araştırma içerdikleri için faydalı kabul edilir. Ve sinir ağlarının, bir kişi tarafından ek derin iyileştirme olmaksızın oluşturduğu içerik genellikle böyle değildir.

Bu arada, Devlet Dumasında önerildi AI yardımıyla oluşturulan materyaller için etiketlemeyi tanıtın. Bu gerçekleşene kadar, metnin bir sinir ağı tarafından üretilen, kendin yapmak zorunda kalacak. Veya özel servislerin yardımıyla.

Metnin bir sinir ağı tarafından yazıldığını bağımsız olarak belirleme

MIREA Teknoloji Üniversitesi geçtiğimiz günlerde düzenlenen deney20 öğretmen ve 200'ün üzerinde öğrencinin katıldığı Yarısı kendi başlarına bilimsel makale yazdı. Geri kalan %50 ise sinir ağlarının yardımını kullandı. Öğretmenler ise bu tür AI materyallerini hesaplamak zorunda kaldı.

Bunu yapmak için, öğretmenler metnin biçimsel ve imla özelliklerine dikkat ettiler. Örneğin, çok sayıda tekrar eden sözcük ve anlam için gerçek ve mantıksal hatalar, orijinal kararların eksikliği. Bu sayede öğretmenler sinir ağı kullanılarak yazılan çalışmaların %96'sını tespit edebildiler. Maruz kalmayan öğrencilerin %4'ü, AI metnini düzenlemek için uzun saatler harcadıklarını itiraf etti.

Sinir ağı tarafından üretilen metnin hesaplanmasına yardımcı olacak evrensel bir talimat yoktur. Bununla birlikte, deney, benzer modellerin bu tür malzemelerde doğal olduğunu göstermektedir. Onları daha ayrıntılı olarak ele alalım.

Anlam ve kelimelerin tekrarı

Bir sitenin arama sonuçlarında aşağılara inme nedenlerinden biri de anahtar kelime yeniden optimizasyonudur. Bir talebe yanıt olarak sinir ağı genellikle "bir daire içinde yanıt verir". Bazen farklı oluşumlar kullanır, ancak anlam yine de tekrarlanır.

Bu nedenle, aşağıdaki ekran görüntüsünde yapay zeka, saç boyamanın yeni ve nazik bir yolu hakkında bir satış yazısı yazmakla görevlendirildi. Ve küçük bir metinde, sinir ağı aynı tezleri defalarca tekrarladı.

Hemen hemen her cümle oluşturulan metin "yeni bir boyama yöntemi" ifadesi tekrarlanır. Ayrıca, yöntemin güvenliği ve her müşterinin benzersizliğini vurgulayacak bireysel bir yaklaşım hakkında tekrarlanan anlamlar vardır.

İşte bunu gösteren metinden bazı alıntılar: “imajınızı dönüştürün ve bireyselliğinizi ifade edin”, “bireyselliğinizi dikkate alın”, “size uygun”, “sizin için yaratın” benzersiz ve şık bir görünüm", "saç stilinizi benzersiz yapın", "saçınızın sağlığını ve parlaklığını koruyun", "saçınız için güvenli", "saçınıza özen gösterin, onu koruyun" sağlık".

Bu arada, salonda yeni bir prosedürün sunulduğunu bir kez söylemek yeterliydi - koruyucu boyama yöntemibu da saçı canlı tutacak. Ayrıca yöntemin nasıl çalıştığını, yeniliğinin ne olduğunu ve neden güvenli olduğunu açıklayın. Ve renk paletinin çeşitli olduğunu ve eğitim alan ustaların sadece yüksek kalitede renklendirme yapmakla kalmayacak, aynı zamanda renk seçiminde de yardımcı olacağını ekleyin.

Metinde çok sayıda damga ve klişe bulunması, duyusal deneyim eksikliği

Renklendirme örneği ayrıca, bir sinir ağının bir kişinin gerçek hayatta nasıl konuştuğunu taklit edemediğini de göstermektedir. İnsanlar mühürler, kullanır argo ve kısaltmalar, kasıtlı olarak sözcükleri çarpıtır. Böyle bir sunum dikkat çekmeye, duyguları uyandırmaya, yazarın konumunu, duyusal deneyimini aktarmaya yardımcı olur.

Araştırma göster: sinir ağı duyguları paylaşmaz, kimsenin konumunu kabul etmez. Bu nedenle tarafsızlığı, klişeleri ve klişeleri tercih eder. Yukarıdaki örnekte bunlar "profesyonel beceriler", "yüksek kaliteli malzemeler", "eşsiz fırsat" dır.

Aynı zamanda, sinir ağı farklı stillerde metinler üretir. Örneğin “Maliyeti ne etkiler” konulu bir materyal hazırlama görevini ona verebilirsiniz. yağ». Ancak metnin kuru bir dille değil, metaforlar ve karşılaştırmalar eklenerek yazılması gerektiğini açıklığa kavuşturmak için. Ancak sonuç yine de yapaydır. Ne de olsa yapay zekanın bir ölçüsü yok, metni bir kişinin yaptığı gibi "hissetmiyor".

Paragraflardan biri, elde edilen sonucun bir kişinin doğasında bulunan tonlama ile karşılaştırılamayacağını görmeye yardımcı olacaktır: “Talep ve arz, petrol piyasasında iki aşığın dansı gibidir. Eğer petrol talebi köpüren bir okyanus gibi yükselir ve eğer arz yetişemezse fiyatlar yılbaşı partisindeki şampanya gibi yükselir. Ancak talep azalır ve arz artarsa, fiyatlar bir çocuk partisindeki balon gibi düşebilir."

Metin yapay görünüyor ve içindeki dönüşlerin çoğu yerinde değil. Gönderinin gerçekten "kuru olmadığı" ortaya çıksa da, bir uzmanın bu şekilde yazacağını hayal etmek zor. Ayrıca kelimenin tam anlamıyla her cümlesi bir mecaz ve benzetmedir. Bununla birlikte, bu tür teknikler kesin olmalı ve metne düzgün bir şekilde yerleştirilmelidir. Aksi takdirde, fazla görselin arkasında anlam kaybolacaktır.

Anlamsız ifadelerin varlığı ve mantık eksikliği

Dilbilimci Noam Chomsky, Sözdizimsel Yapılar adlı kitabında, bir cümledeki tümceciklerin dilbilgisi açısından doğru bir şekilde inşa edilmesinin varlığını garanti etmediğini belirtiyor. mantık ve anlam. Örnek olarak, uzman, renksiz yeşil fikirler öfkeyle uyur - "renksiz yeşil fikirler öfkeyle uyur" ifadesini aktardı.

Algoritmalar sinir ağının gramer açısından doğru cümleler kurmasına yardımcı olur. Ancak yapay zeka için "anlam" kavramı yoktur. Ve materyal farklı kaynaklardan elde edildiğinden, her paragraf için kendi mantığına sahip olabilir.

Örneğin, bir sinir ağından bir duş jeli ve eşofman için incelemeler üretmesi istendi. Kıyafetlerle ilgili metin şöyle çıktı: “Bir takım elbise ile rahatlayabilir, kendinizi spor dünyasına kaptırabilir ve ayrıca yürüyüşe çıkabilirsiniz. Her durumda kendinizi rahat hissettiğiniz için sıcaklık kontrolüne sahiptir.

Ve işte duş jeli hakkında bir inceleme: “Harika jel, akmıyor, ciltte ağırlık yapmıyor. Bir torba içinde, bir kutuda, kapaklı olarak paketlenmiştir. Biraz parçalanması için fazladan bir şey beklemenize gerek yok. Gece duş jeli olarak kullanılabilir.

İçlerinde bazı ifadeler yapılı, ama aynı zamanda saçma görünüyor ve Chomsky'nin örneğine benziyor.

Doku eksikliği ve yüzeysel örnekler

Yapay zeka metinlerde bariz bilgiler, genel gerçekler veriyor, akıcı ifadeler ve soruyu fazla ortaya çıkarmayan örnekler kullanıyor. Bu durumda, konunun karmaşıklığı önemli değil. Soru, gelişme beklentileri gibi derin olabilir kapanımlar Rusya'da. Veya teknik seçimi ile ilgili olarak daha basit ve bireysel.

Dahil etme ile ilgili metinde, sinir ağı bu konunun ne kadar önemli ve alakalı olduğunu anlattı. Ayrıca içermenin zorluklarla birlikte uzun bir süreç olduğunu ancak özel ihtiyaçları olan insanlar için koşulların yaratılması için çalışmaların sürdüğünü de sözlerine ekledi. Ve özetledim: Durmazsanız, gelişme kesinlikle olacaktır.

Ancak yazılanlar soruyu cevaplamıyor. Metnin spesifik olması önemlidir. Örneğin, kabul edilen kanunlardan hangilerinin işe yarayıp hangilerinin yaramadığını ve nedenlerini analiz edebilirsiniz. Yabancı deneyimi ortaya çıkarmak için. Ve devletin, iş dünyasının ve herkesin kapsayıcılığı geliştirmek için hangi somut adımları atabileceğini açıklayın.

hakkında metinde akıllı telefon satın almaksinir ağı tarafından üretilen, bariz seçim faktörleri de belirtilir. Örneğin: işletim sistemine (iOS veya Android), markaya karar vermeli, incelemeleri ve teknik özellikleri okumalı ve ayrıca kendi yeteneklerinizi de hesaba katmalısınız.

Ancak, insanlar bunu anlıyor. Başka bir şey de, şu anda var olan sınırlamaları belirtmek için işletim sistemlerinin yongaları hakkında konuşmaktır. Veya yenilikçi çözümlerden bahsedin - örneğin, bir akıllı telefonda en fazla beş numaraya sahip olmanızı sağlayan eSIM teknolojisi. Veya pahalı cihaz modellerini ve muadillerini en iyi fiyata paylaşın.

Gerçeklerin çarpıtılması, icat edilen bilgilerin eklenmesi

Sinir ağı, neredeyse her soruyu makul bir şekilde yanıtlayarak bir kronik, tarihler, soyadlar, menşe tarihi sağlar. Bu durumda, bilgi çarpıtılır veya tamamen uydurulur. AI'nın çalışmasındaki böyle bir hataya halüsinasyon denir.

Böylece sinir ağına ünlüleri anlatma görevi verildi. sağır insanlartoplumun gelişimine büyük katkı sağlayan kişi. Sonuç olarak, yapay zeka bunların çoğunu icat etti.

Örneğin, astronot Raymond Lou veya boksör Mario Gallegos. Ve Amerika Birleşik Devletleri'nin 42. Başkanı hala Matthew Clinton değil, Bill Clinton'dı. Ve işitme duyusunu kaybetmedi.

Ayrıca AI, "kreatif hakkında bir gönderi yaz" isteğine kendinden emin bir şekilde yanıt verdi. amnezi». Böyle bir terim olmamasına rağmen.

Botun neden insanları icat ettiği ve var olmayan terimlerden bahsettiği sorulduğunda, yalnızca olası karışıklıklar için özür diler.

Yanlış gerçekler, gerçek verilerle iç içe geçtiğinde, sinir ağı halüsinasyonlarını tespit etmek daha zordur. Özellikle ne zaman akıcı okuma. Ancak metinde verilen örneklere odaklanırsanız, şüpheli görünenleri fark edebilir ve arama çubuğuna yazarak kontrol edebilirsiniz.

Güncel değişiklikler, olaylar hakkında güncel bilgi eksikliği

Sinir ağları, kullanıcılarla iletişim kurarken kendi kendine öğrenir, bir kişinin açıklamalarını, oluşturulan içeriğe tepkisini, bir kişinin bir botla paylaştığı örnekleri hatırlar. Uzmanlar kayıt edilmişyapay zekanın kendi kendine öğrenme yeteneği onlar için sürpriz oldu. Ve bu beceri sinir ağlarının gelişmesine yardımcı olur.

nerede makine öğrenmegeliştiriciler tarafından gigabaytlarca veri - makaleler, kitaplar, Web'den metinler - üzerinde yürütülen, net bir başlangıcı ve sonu vardır. Ve temelde sinir ağlarının arama motorlarına erişimi yoktur. Bu nedenle, geliştiriciler tarafından gerçekleştirilen eğitimin ardından ortaya çıkan bilgiler, bir sonraki aşamaya kadar yapay zekanın kullanımına sunulmaz.

Aynı zamanda, makine öğrenimi arasındaki aralık aylar ve bazen yıllar olabilir. Elbette ilerleme durmuyor: örneğin, bu yılın Mayıs ayında GPT Plus, ücretli aboneliği olan kullanıcıların kullanımına sunuldu. ChatGPT İnternet erişimi ile. Ancak çoğu nöral ağ, özellikle ücretsiz sürümleri henüz böyle bir imkana sahip değil.

Dolayısıyla, ChatGPT4'ün ücretsiz sürümünün temeli 2021 ile sınırlıdır, bu nedenle bot, 2022'de son Dünya Kupası'nı kimin kazandığını bilmez. Ve Google sinir ağı - Bard AI - bu yaz dünyada meydana gelen önemli olaylar hakkında bir metin oluşturamayacağını itiraf etti.

Son eğitimi geliştiriciler tarafından Mayıs 2023'te verildiğinden, Bard AI için yaz henüz gelmemiştir.

Bu gibi durumlarda, sinir ağları genellikle gerçekleri ortaya çıkarmaz, ancak yapamayacaklarını kabul eder "geleceği tahmin et».

Metin konuyla ilgili güncel bilgiler içermiyorsa veya son zamanlarda çok şey değiştiği için gerçeklikten kopuk görünüyorsa, o zaman materyalin bir sinir ağı tarafından yazılmış olma olasılığı vardır.

Hangi hizmetler yardımcı olabilir?

Yapay zeka tarafından üretilen metin, sinir ağının kendisi kullanılarak da tanınabilir. Örneğin, bot GPT-4. AI algoritmalarını algılayabilen özel hizmetler de yardımcı olabilir. Aşağıda bunlardan bazılarına bakalım.

1. metin.ru. Site, bir metin yazarlığı ve intihal karşıtı değişim olarak konumlandırılmıştır. Ancak son zamanlarda portalda ücretli bir nöro-asistan belirdi. İşlevlerinden biri bir AI dedektörüdür. Kontrol edilecek metin pencereye yüklenmelidir. Birkaç saniye sonra sistem sonucu verecektir.
2. PR CY. 1.000 karakterden uzun metinleri servise yükleyebilirsiniz. Aynı zamanda portalda açıklamalar var: bir kişinin yazdığı düşük kaliteli, spam seçenekleri, sistem yapay zeka çalışmasının sonucu olarak kabul edecek. Parlak stilistik renklendirmeye sahip metinlerin yanı sıra - örneğin, eserlere benzer Mayakovski.
3. GPTZero. Araç, kelimelerin karmaşıklığını, kombinasyonlarını, yapılarını ve cümle uzunluklarını okur. Bununla birlikte, hizmet İngilizce metinlerle iyi başa çıkıyorsa, Rusça materyal yüklerken genellikle bir hata verir. Avantajlardan - ücretsiz bir sürümün varlığı.

Bir sinir ağı harika bir yardımcı olabilir. Örneğin, fikir ararken. Ancak içeriğine tamamen güvenmek tehlikelidir. Yapay zeka materyallerini sorumlu bir şekilde ele almalısınız: spam'i düzenleyin, doğruluğu, mantığı ve gerçeklerin alaka düzeyini kontrol edin. Ve izleyiciyi korkutmamak, şirketin arama sonuçlarındaki itibarını ve konumunu korumak için stili "insan" diline göre ayarlayın.