Pengguna yang telah bereksperimen dengan CHATGPT, Claude Anthropic, Google Gemini, Microsoft Copilot, DeepSeek, Percuma, Meta AI melalui WhatsApp, atau salah satu perkhidmatan AI platform perusahaan seperti Amazon Code Whisperer akan tahu bahawa ada cara yang betul dan cara yang salah untuk meminta kecerdasan automasi.

Menjadi agak spesifik mengenai permintaan anda dan menstrukturkan bahasa dengan cepat dengan istilah deskriptif yang lebih tepat untuk mengarahkan perkhidmatan AI dan mempersempit pilihannya pada umumnya cara mendapatkan hasil yang lebih tepat. Kemudian ada faktor kesopanan.

Politik kesopanan

Walaupun beberapa analisis ruang ini dan tahap penyelidikan mencadangkan pendekatan yang sopan adalah yang terbaik apabila berinteraksi dengan perkhidmatan AI (ia mungkin membantu menjadi manusia yang lebih baik, selepas semua), terdapat hujah yang lebih luas yang mengatakan kesopanan tidak diperlukan kerana ia memerlukan ruang tambahan "token" ... dan itu bukan komputasi yang efisien atau baik untuk jejak karbon planet planet. Token adalah unit teras teks bahasa semulajadi atau beberapa komponen imej, klip audio atau video, bergantung kepada "modaliti" pemprosesan AI yang berlaku; Walaupun "Sullen" adalah satu token, "kecelakaan" kemungkinan besar akan menjadi dua token: "Sullen" dan "Ness" secara keseluruhan. Semua itu, terima kasih dan "anda hanya hebat" interaksi pengguna dengan AI tidak semestinya idea yang baik.

Oleh itu, mari kita tanya chatgpt apa yang perlu dilakukan ...

Skala kerumitan kesimpulan dengan panjang

Keen untuk menyuarakan pendapat mengenai subjek ini ialah Ale? Wilk , Perisian Awan dan Pakar SEO di ApiFy, sebuah syarikat yang terkenal dengan platformnya yang membolehkan pemaju membina, menyebarkan dan menerbitkan pengikis web, agen AI dan alat automasi.

"Untuk memahami topik perbualan yang semakin meningkat ini, kita perlu memulakan dengan menyedari bahawa setiap token pengguna menyerahkan kepada model bahasa AI mewakili unit yang dapat diukur dalam kos pengiraan," kata Wilk. "Model-model ini berfungsi dan bergantung pada 'arsitektur pengubah', di mana skala kerumitan kesimpulan dengan panjang urutan, terutamanya disebabkan oleh sifat-sifat kuadrat dari mekanisme perhatian diri. Menggunakan bahasa yang tidak berfungsi seperti 'tolong' atau 'terima kasih' terasa seperti dialog perbualan yang semula jadi."

Melihat ini dari sudut pandang teknikal dan kecekapan, ini adalah kos tersembunyi. Wilk menjelaskan bahawa jika kita melihat platform seperti GPT-4-Turbo, contohnya, di mana harga dan pengiraan adalah berasaskan token, keliaran dalam reka bentuk segera secara langsung meningkatkan masa kesimpulan, penggunaan tenaga dan perbelanjaan operasi. Juga nota, analisis empirikal mencadangkan bahawa 1,000 token pada LLM terkini boleh memancarkan 0.5 hingga 4 gram CO?, bergantung kepada saiz model, pengoptimuman dan infrastruktur penempatan. Pada skala yang lebih besar dan merentasi berbilion -bilion harian harian, token yang tidak perlu dapat menyumbang kepada beribu -ribu tan metrik pelepasan tambahan setiap tahun.

"Topik ini telah dibincangkan secara meluas, kerana ia bukan sahaja membimbangkan kos, tetapi juga kemampanan. Melihat persekitaran kesimpulan yang intensif GPU, petunjuk yang lebih lama dapat memacu daya tarikan, meningkatkan keperluan penyejukan dan mengurangkan kecekapan throughput. Bergariskan Wilk.

Menyelaraskan input pengguna

Pakar pengoptimuman sendiri, Wilk menawarkan penyelesaian yang berpotensi dengan mengatakan bahawa satu tanggapan adalah bahawa pemaju dan saintis data boleh membuat reka bentuk yang cepat sama seperti bagaimana mereka menulis kod prestasi, seperti mengeluarkan redundansi, memaksimumkan utiliti fungsional dan menyelaraskan input pengguna. Dengan cara yang sama, kami menggunakan Linters dan Profilers ( Alat Penambahbaikan Kod ) untuk perisian, kami memerlukan alat untuk membersihkan dan mengoptimumkan token secara automatik.

Buat masa ini, Wilks berkata dia akan menggalakkan pengguna menjadi tepat dan minimum dengan arahan mereka. "Mengatakan 'tolong' dan 'terima kasih' kepada AI mungkin merasa sopan, tetapi pencemaran yang sopan dalam istilah pengiraan," katanya.

Greg Osuri , pengasas Akash, sebuah syarikat yang terkenal dengan MarketPlaceagrees yang terdesentralisasi bahawa kesan alam sekitar AI tidak lagi menjadi kebimbangan periferal, ia adalah cabaran reka bentuk utama. Beliau menunjuk kepada laporan yang mencadangkan kos kesimpulan AI menyumbang kepada lebih daripada 80% daripada jumlah penggunaan tenaga AI. Industri ini telah menghabiskan beberapa tahun terakhir untuk menolak model yang lebih besar, prestasi yang lebih baik dan penggunaan lebih cepat, tetapi kesimpulan AI, proses yang digunakan oleh model LLM yang terlatih untuk membuat kesimpulan dari data baru, mungkin melakukan kebanyakan kerosakan sekarang.

Model Bahasa vs Carian Google

"Setiap pertanyaan pengguna mengenai model LLM menggunakan kira-kira 10 hingga 15 kali lebih banyak tenaga daripada carian Google standard. Di sebalik setiap tindak balas terletak infrastruktur yang sangat intensif. bulan.

Beliau bersetuju bahawa banyak yang dikatakan di sekitar goreng yang sopan dan sama ada ia lebih cekap tenaga untuk menjadi kasar (atau sekurang-kurangnya mengarahkan dan ke titik) ke AI; Walau bagaimanapun, beliau berkata perbualan ini hilang titik yang lebih luas.

"Kebanyakan seni bina AI hari ini tidak cekap dengan reka bentuk. Sebagai seseorang yang telah menghabiskan bertahun-tahun membangunkan perisian dan infrastruktur yang menyokong, ia mengejutkan betapa sedikitnya pengawasan yang kami gunakan untuk kecekapan yang cepat . Kekangan kritikal, kami akan meneruskan model latihan dan mempercepatkan batasan kami sendiri, "katanya.

Perbincangan ini pasti akan datang kepada sama ada AI sendiri telah berjaya menjadi sentient. Apabila itu berlaku, AI akan mempunyai kesedaran diri dan kesedaran yang cukup untuk mempunyai perasaan subjektif yang sedar dan dapat membuat keputusan eksekutif tentang bagaimana untuk menguruskan kesopanan dan pemprosesan kuasa baki. Sehingga itu, kita perlu ingat bahawa kita pada dasarnya hanya menggunakan model bahasa untuk menjana kandungan, sama ada kod, kata atau imej.

Sekiranya saya mempunyai tukul AI

"Menjadi sopan atau kasar adalah membazir ruang konteks berharga. Apa yang pengguna cuba capai adalah untuk mendapatkan AI untuk menghasilkan kandungan yang mereka mahu. Semakin ringkas dan langsung kita dengan arahan kami, lebih baik output akan menjadi," jelas Brett Smith , jurutera perisian yang terkenal dan arkitek platform di SAS. "Kami tidak menggunakan formaliti apabila kami menulis kod, jadi mengapa kita perlu menggunakan formaliti apabila kami menulis petikan untuk AI? Jika kita melihat LLMS sebagai alat seperti tukul, kami tidak mengatakan 'tolong' apabila kami memukul kuku dengan tukul.

Masalahnya, manusia seperti empati. Ini bermakna apabila perkhidmatan AI menjawab dengan cara yang cerewet dan biasa yang dibina untuk meniru perbualan manusia, manusia lebih cenderung untuk menjadi mesra sebagai tindak balas. Peraturan umum adalah, pengguna yang lebih ringkas dan langsung adalah dengan arahan anda, lebih baik output akan menjadi.

"AI tidak berpengalaman ... dan ia tidak perlu diperlakukan seperti itu," tegas Smith. Berhenti membakar kitaran pengiraan, membuang elektrik datacenter dan memanaskan planet ini dengan arahan sopan anda. Saya tidak mengatakan bahawa kita 'sifar-tembakan' setiap prompt [istilah yang digunakan untuk menentukan apabila kita bertanya soalan AI llm atau memberikan tugas tanpa memberikan sebarang konteks atau contoh], tetapi pengguna boleh ringkas, langsung dan mungkin mempertimbangkan membaca beberapa panduan kejuruteraan yang cepat. Gunakan ruang konteks untuk apa yang dimaksudkan untuk, menghasilkan kandungan. Dari perspektif kejuruteraan perisian, yang sopan adalah satu pembaziran sumber. Akhirnya, anda kehabisan konteks dan model akan melupakan anda pernah memberitahu 'tolong' dan 'terima kasih' pula. Walau bagaimanapun, anda mungkin mendapat manfaat sebagai orang dalam jangka panjang daripada menjadi lebih sopan apabila anda bercakap dengan LLM anda, kerana ia boleh membawa kepada anda menjadi lebih baik dalam interaksi peribadi dengan manusia. "

Sas's Smith mengingatkan kita bahawa token AI tidak bebas. Dia juga membayangkan apa yang dia sebut sebagai "keadaan hipotetikal yang lucu" di mana kami dan terima kasih yang kami dapat diterima pakai oleh perisian itu sendiri dan ejen akhirnya menambah niceties ketika bercakap ejen-ke-agen. Seluruhnya akhirnya berputar dari kawalan meningkatkan halaju sistem membuang token, ruang konteks dan mengira kuasa sebagai komunikasi agen-ke-agen tumbuh. Syukurlah, kita boleh program terhadap realiti itu, kebanyakannya.

Perang ke atas sisa

Mustafa Kabul mengatakan bahawa apabila menguruskan rantaian bekalan perusahaan di peringkat perniagaan yang lebih luas (bukan hanya dari segi perisian dan data) perniagaan yang berhemat telah menghabiskan beberapa dekad menghapuskan sisa dari setiap proses iaitu inventori yang berlebihan, titik sentuhan yang berlebihan, langkah yang tidak perlu.

"Disiplin operasi yang sama mesti digunakan untuk interaksi AI kami," kata Kabul, dalam kapasitinya sebagai SVP sains data, pembelajaran mesin dan AI di syarikat perisikan keputusan AERA Technology.

"Apabila anda mengatur pasukan ejen yang merentasi perancangan permintaan, keputusan perolehan dan logistik pada skala perusahaan, setiap multiplies yang tidak cekap yang tidak cekap. Beribu -ribu keputusan harian tidak hanya membazirkan sumber pengiraan, ia memperkenalkan latensi yang dapat melangkah melalui rantaian keputusan keseluruhan, "jelas Kabul.

Dia mengatakan bahawa sama seperti kita (sebagai komuniti teknologi perniagaan kolektif) telah mengetahui bahawa operasi kurus memerlukan ketepatan, bukan kesopanan, koordinasi ejen AI yang berkesan menuntut "kecekapan kejam" yang sama hari ini. Kabul menegaskan bahawa syarikat -syarikat yang merawat interaksi AI dengan keteguhan operasi yang sama yang mereka gunakan untuk proses pembuatan mereka akan mempunyai "kelebihan yang menentukan" dalam kedua -dua kelajuan dan kemampanan.

Adakah anda keberatan, sangat teruk?

Walaupun UK mungkin dikenali kerana kesopanan mereka yang tidak menentu, bahkan British mungkin perlu belajar untuk menggugurkan udara dan rahmat yang normal, kami biasanya akan mempertimbangkan sebahagian yang diperlukan dari persidangan biasa dan persetubuhan sosial. The Chatbot tidak keberatan jika anda tidak mengatakan sila ... dan, jika respons AI pertama anda bukanlah apa yang anda mahu, jangan pernah berbahasa Inggeris dan fikir anda perlu mengatakan maaf sama ada.

Atas ialah kandungan terperinci Mengapa kita perlu 'kasar' kepada AI. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!