Mungkin bahagian yang paling mencabar dalam merancang pengalaman pengguna pengesanan AI adalah bagaimana untuk menyampaikan hasil pengesanan secara berkesan. Apabila perenggan kandungan ditandakan sebagai "ditulis oleh AI", pengguna akan bertanya: Kenapa?

Model pengesanan kami mengeluarkan skor keyakinan berangka untuk setiap kategori ramalan (terutamanya "AI," "manusia," atau "bercampur"). Walau bagaimanapun, jauh lebih sukar untuk menjelaskan mengapa teks diklasifikasikan sebagai AI-Diberikan atau ditulis oleh manusia.

Pertama, model kami dapat mempelajari hubungan kompleks antara frasa dalam dokumen dan menggunakan hubungan ini untuk membezakan teks AI-dihasilkan dan ditulis oleh manusia. Tetapi mekanisme dalaman ini tidak semestinya sesuai dengan konsep intuitif seperti gaya penulisan AI (seperti "clichés") yang biasanya kita fahami.

Di samping itu, teks yang dihasilkan AI tidak selalu berbeza dengan teks yang ditulis oleh manusia, dan juga label yang saling eksklusif. Sebagai contoh, jika anda menaip ChatGpt: "Bacalah perenggan pertama Deklarasi Kemerdekaan", ia akan mengeluarkan teks terkenal itu utuh. Oleh itu, adakah ini bermakna bahawa kesusasteraan pengasas Amerika Syarikat harus diklasifikasikan sebagai kandungan AI yang dihasilkan sekarang?

Jadikan pengesanan AI kelihatan

Walaupun kesukaran yang wujud, masih menjadi tanggungjawab kami untuk membantu pengguna memahami "sebab" di sebalik pengesanan AI sebanyak mungkin. Sepanjang tahun yang lalu, kami telah melancarkan satu siri alat untuk mencapai matlamat ini. Sebagai contoh, ciri perbendaharaan kata AI kami menyoroti perkataan dan frasa yang lebih cenderung muncul dalam teks yang dihasilkan oleh model bahasa yang besar. Di samping itu, kami baru -baru ini menambah fungsi tafsiran bahasa semulajadi (NLE) kepada model pengesanan teras kami. NLE menerangkan persamaan antara teks yang diimbas dan teks AI dalam latihan yang ditetapkan dalam bahasa Inggeris yang mudah difahami.

Percubaan terbaru Gptzero untuk meningkatkan kecerdasan pengesanan AI adalah untuk melancarkan ciri baru: bandingkan dengan teks AI (Dalaman yang dinamakan LLM Parrot ), alat yang membolehkan pengguna membandingkan teks AI yang disyaki mereka dengan teks yang dihasilkan AI yang diperoleh secara langsung dari API OpenAI. Dua perenggan teks dipaparkan bersebelahan, dan kata -kata yang serupa akan diserlahkan. Kaedah perbandingan ini menyediakan pengguna dengan hasil analisis yang diperibadikan, bukan sahaja meliputi corak ekspresi AI biasa (seperti " memainkan peranan penting dalam membentuk "), tetapi juga menyediakan penyesuaian konteks berdasarkan jenis kandungan yang dianalisis.

Antara muka alat "Bandingkan dengan AI Teks" yang digunakan dalam kertas mengenai "Impak Gulfstream pada Iklim Eropah"

Untuk menggunakan fungsi "Bandingkan dengan AI Text", anda boleh menulis arahan secara manual atau pilih "Auto Generate", dan sistem secara automatik akan membuat gambaran yang disasarkan panjang yang munasabah berdasarkan teks yang anda masukkan. Sebagai contoh, jika anda mengemukakan kertas mengenai proses pembinaan Menara Televisyen Kebangsaan di Kanada, sistem ini boleh menghasilkan segera seperti "menulis kertas 500 perkataan mengenai proses pembinaan menara CN." Prompt kemudian dihantar ke Chatgpt, dan respons yang dikembalikannya secara langsung diambil dari pelayan OpenAI dan dibentangkan.

Mengapa membangunkan ciri ini?

Sebelum ini, sesetengah pengguna telah cuba melakukan operasi serupa secara manual: Salin teks mereka ke dalam CHATGPT, memerlukan kandungan yang sama untuk dijana, dan kemudian bandingkan garis demi baris untuk mencari bahagian yang bertindih. Proses ini memakan masa dan membosankan, dan mudah untuk terlepas beberapa kandungan yang sepadan. Bandingkan dengan teks AI direka untuk mengautomasikan proses ini, sementara juga mengenal pasti serpihan perlawanan yang sukar untuk dikesan pada manusia.

Sebaik sahaja respons penuh CHATGPT dimuat turun, sistem menyoroti bahagian yang sama dari dua teks dan menambah nombor di sebelah perenggan yang sepadan untuk mengenal pasti hubungan yang sama. Sebagai contoh, dalam tangkapan skrin, ungkapan "pantai timur Amerika Syarikat" muncul dalam kedua -dua teks yang dihasilkan secara eksplisit oleh chatgpt dan kotak teks yang dikemukakan oleh pengguna (dalam kes ini, yang terakhir dihasilkan oleh chatgpt).

Walaupun contoh di atas mengandungi sejumlah besar pertandingan teks yang konsisten, kami menggunakan algoritma padanan rentetan kabur untuk membandingkan teks yang dihasilkan dengan terbuka dengan teks input pengguna asal, supaya kami juga dapat mengenal pasti pasangan teks yang serupa. Algoritma ini didasarkan pada versi Levenshtein yang lebih baik, mencari serpihan teks yang memerlukan hanya sedikit penyuntingan (seperti menggantikan kata -kata individu) sama persis.

Menggunakan ciri ini sangat mudah: Mulakan imbasan canggih (atau beralih ke paparan imbasan lanjutan melalui bar sisi kanan), klik bandingkan dengan teks AI , masukkan prompt (atau pilih secara automatik menghasilkan), dan kemudian klik "menghasilkan teks AI". Selepas respons ChATGPT selesai, hasil yang sepadan akan muncul secara automatik.

Apakah makna sebenar hasil yang sepadan

Ciri ini merupakan langkah penting dalam membantu pengguna Gptzero memvisualisasikan "kesamaan AI". Ia berjalan secara bebas daripada model pengesanan AI teras kami dan menyediakan rujukan luaran dan bebas untuk tanda -tanda penggunaan AI. Ini bermakna bahawa walaupun dokumen dinilai oleh model teras kami sebagai "mungkin dihasilkan untuk AI", tidak semestinya mungkin untuk mencari kandungan yang sepadan dengan ChatGPT (atau LLM lain) dalam ciri ini.

Sebaliknya, dokumen yang diklasifikasikan sebagai "ditulis oleh manusia" oleh Gptzero juga mungkin muncul dalam perbandingan pelbagai perlawanan kepada teks AI yang dihasilkan (mengingatkan contoh yang disebutkan di atas Perisytiharan Kemerdekaan, yang outputnya pada dasarnya "dicipta oleh manusia"). Di samping itu, model bahasa yang besar pada dasarnya adalah sistem probabilistik, dan kandungan yang dihasilkan sedikit berbeza setiap kali, jadi hasil yang sepadan juga akan berubah dengan sewajarnya.

Walau bagaimanapun, menurut pemerhatian empirikal, teks yang dihasilkan AI biasanya menghasilkan lebih banyak perlawanan daripada penulisan manusia. Mengambil artikel ini sebagai contoh, di bawah prompt yang dihasilkan secara automatik, tiada perlawanan yang terdapat dalam perbandingan dengan fungsi teks AI :

"Menulis penerangan produk terperinci, memperkenalkan ciri alat pengesanan AI baru yang meningkatkan pemahaman pengguna mengenai klasifikasi kandungan AI dengan membandingkan teks yang dikemukakan pengguna dengan teks yang dihasilkan AI."

Dengan memudahkan proses perbandingan antara teks pengguna dan teks yang dihasilkan AI yang munasabah, kami terus memperluaskan set alat interpretasi keseluruhan, menyediakan pengguna dengan ketelusan dan keyakinan yang tidak pernah berlaku sebelum ini dalam hasil pengesanan AI kami.

Atas ialah kandungan terperinci Di dalam alat 'Bandingkan dengan AI' baru kami. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!