Cara memilih platform ejen AI

Nilai berdasarkan aliran kerja anda, bukan demo

Pasaran ini bising: setiap alat yang ada kotak sembang kini menggelar dirinya platform ejen. Demo tidak akan membantu anda membezakannya, kerana demo hanyalah perbualan yang telah diraih berdasarkan data vendor. Ujian yang benar-benar penting ialah sama ada platform itu boleh menjalankan salah satu aliran kerja anda itu - pada saluran anda, di bawah peraturan kelulusan anda, dalam bajet anda.

Jadi sebelum anda menjawab satu pun panggilan, tuliskan dua atau tiga aliran kerja yang benar-benar mahu anda serahkan. Bagi kebanyakan PKS, ia kelihatan seperti menjawab pertanyaan WhatsApp tentang harga dan stok, menapis peti masuk kongsi dan mendraf balasan, atau menghasilkan ringkasan penyelidikan mingguan. Kemudian nilai setiap vendor berdasarkan aliran kerja itu, menggunakan senarai semak di bawah.

Sedikit catatan tentang berat sebelah, memandangkan halaman ini berada di laman web sebuah vendor: kami membina salah satu platform seperti ini, dan senarai semak ini mencerminkan perkara yang kami pilih untuk bina. Ia tidak neutral. Namun setiap perkara di dalamnya ialah mod kegagalan sebenar yang pernah kami lihat dialami perniagaan, dan setiap soalan boleh digunakan pada mana-mana vendor - termasuk kami.

1. Saluran: bolehkah ejen berada di tempat pelanggan anda berada?

Ejen yang wujud hanya dalam widget laman web ialah chatbot dengan tatabahasa yang lebih kemas. Pertanyaan anda tiba melalui WhatsApp, e-mel, Telegram dan Slack, manakala peristiwa tiba daripada sistem anda sebagai webhook - jika platform tidak boleh menemuinya di situ, pasukan anda pula yang menjadi lapisan salin-tampal.

• Saluran mana yang disokong hari ini - WhatsApp, Telegram, e-mel, Slack, SMS - dan yang mana masih dalam pelan hala tuju?
• Bolehkah peristiwa masuk (e-mel baharu, webhook daripada kedai anda) memulakan kerja, atau perlukah manusia membuka sembang dahulu?
• Bolehkah seorang ejen melayan pelanggan di satu saluran dan melapor kepada kakitangan di saluran lain?

2. Kawalan manusia: siapa meluluskan apa, dan di mana?

Beza antara ejen yang berguna dan satu liabiliti ialah apa yang boleh dilakukannya tanpa seliaan. Cari autonomi berperingkat, bukan suis hidup/mati: penyelidikan dan kerja mendraf boleh berjalan bebas, manakala mesej keluar, wang dan perubahan sistem menunggu manusia sehingga kepercayaan diperoleh. Buku panduan kelulusan-dahulu kami membincangkan reka bentuk ini secara mendalam.

• Adakah autonomi berperingkat - tahap atau skop bagi setiap ejen - atau semua-atau-tiada?
• Apa yang menunggu kelulusan secara lalai, dan bolehkah pintu ditetapkan mengikut kategori: tindakan kewangan, penghantaran keluar, penulisan fail?
• Di mana permintaan kelulusan tiba - dalam alat yang memang digunakan pasukan anda, atau papan pemuka yang seseorang perlu ingat untuk semak?

3. Audit: adakah setiap tindakan direkod dan boleh disemak?

Apabila seorang pelanggan mempertikaikan apa yang diberitahu kepadanya, atau apabila anda menimbang sama ada mahu meluaskan autonomi seorang ejen, anda perlukan rekod - bukan cubaan menyusun semula cerita. Log ialah syarat asas; yang benar-benar menyelesaikan pertikaian ialah jejak yang tidak boleh diubah, merangkumi semua yang dibaca, didraf dan dihantar oleh ejen.

• Adakah jejak itu tidak boleh diubah, atau bolehkah catatan disunting atau dipadam?
• Adakah ia merangkumi setiap tindakan, atau hanya mesej keluar?
• Bolehkah anda lihat siapa yang meluluskan setiap tindakan, dan bila?

4. Kawalan kos: had, pengukuran dan BYOK

Penggunaan model ialah kos berubah, dan kos berubah selalu mengejutkan orang. Amaran bukan kawalan - had yang tegas barulah kawalan. Perhatikan juga harga mengikut pengguna: ia mengenakan cukai tepat pada penggunaan meluas yang anda harapkan.

• Adakah ada had perbelanjaan tegas yang dipersetujui sebelum pelancaran, atau hanya amaran penggunaan selepas berlaku?
• Adakah penggunaan AI berada pada meter telus yang boleh anda periksa, atau dibungkus dalam yuran yang tidak jelas?
• Adakah harganya mengikut pengguna? Bolehkah anda bawa kunci model sendiri (BYOK) - dan adakah itu dikenakan kos tambahan?

5. Pengasingan dan privasi: infrastruktur siapa, data siapa?

Ejen memegang sejarah perbualan, dokumen anda, dan kelayakan capaian bagi sistem yang bersambung, jadi nilailah platform itu seperti mana-mana pemproses data pelanggan yang lain. Curigalah terhadap janji mutlak - jaminan yang menyeluruh itu pemasaran, bukan seni bina - dan sebaliknya, mintalah kepastian terperinci tentang perkara asas yang boleh disahkan.

• Adakah ruang kerja setiap pelanggan terasing, atau dikongsi?
• Bagaimana token penyambung dan kunci API disimpan, dan siapa yang boleh mencapainya? Adakah terdapat kawalan capaian berasaskan peranan?
• Adakah data disulitkan semasa disimpan dan semasa dihantar, dan adakah wilayah awan tertentu tersedia untuk keperluan kedudukan data?

6. Memori dan sandaran: adakah ia mengenali perniagaan anda?

Platform yang melupakan segalanya antara sesi akan memaksa pasukan anda mengulang perkara yang sama tanpa henti; platform yang menjawab daripada latihan umum model pula akan meneka harga anda. Anda perlukan kedua-duanya: memori yang kekal dan sandaran pada dokumen anda sendiri.

• Adakah memori ejen kekal merentas sesi, atau ditetapkan semula setiap kali perbualan?
• Bolehkah jawapan disandarkan pada pangkalan pengetahuan yang dibina daripada dokumen anda - senarai harga, dasar, prosedur kerja?
• Apabila sesuatu dokumen berubah, berapa cepat jawapan mengikutinya?

7. Operasi: siapa yang menghos, memantau dan menyelenggaranya?

Soalan ini memisahkan platform daripada kit alat. Seseorang perlu menghos masa jalan, memerhatikannya pada waktu malam, memasang kemas kini, dan membaiki penyambung yang rosak - jika seseorang itu ialah pasukan anda, masukkan jam kerja mereka ke dalam perbandingan. Timbal baliknya dihuraikan dalam perbandingan ejen terhos lawan automasi buat sendiri kami.

• Siapa yang menghos dan memantau ejen - vendor atau anda?
• Apa yang termasuk: pemasangan, penyelenggaraan, pemantauan? Berapa lama tempoh pemasangan, dalam hari bekerja?
• Apabila sesuatu rosak pada pukul 2 pagi, itu masalah siapa?

8. Jalan keluar: apa yang keluar bersama anda?

Andaikan suatu hari nanti anda mahu keluar, dan periksa pintunya sebelum anda masuk. Kontrak, kunci dan pengetahuan ialah tiga perkara yang perlu dijejaki.

• Adakah tempoh perjanjian ditetapkan, dengan jalan keluar yang jelas dan kemudahan memindahkan data?
• Jika anda membawa kunci model sendiri, adakah akaun itu dan sejarahnya kekal milik anda?
• Apa yang anda simpan jika anda keluar - dokumen anda, prosedur anda, rekod perbualan anda?

Bagaimana Olano menjawabnya

Secara ringkas, dan selari dengan semangat senarai semak ini - ajukan soalan-soalan ini kepada kami dalam panggilan, bukan sekadar mempercayai apa yang tertulis di laman web:

• Saluran: 15+ saluran pemesejan - WhatsApp, Telegram, Slack, Discord, e-mel, SMS, Signal dan lain-lain - serta webhook masuk, dengan 75+ integrasi terbina dalam dan 450+ alat penyambung di belakangnya.
• Kawalan manusia: tahap kepercayaan 0-4 (Observer, Assistant, Collaborator, Autonomous, Developer) dengan pintu kelulusan mengikut kategori; apa-apa yang keluar menunggu kelulusan secara lalai.
• Audit: jejak audit yang tidak boleh diubah bagi setiap tindakan.
• Kos: meter telus dengan had perbelanjaan tegas yang dipersetujui sebelum pelancaran; tiada harga mengikut pengguna; BYOK tanpa kos tambahan, dengan penyaluran merentas 18+ penyedia LLM.
• Pengasingan: ruang kerja terasing bagi setiap pelanggan; token penyambung dan kunci API yang disulitkan; kawalan capaian berasaskan peranan; penyulitan semasa disimpan dan semasa dihantar; wilayah AWS/GCP tersuai untuk keperluan kedudukan data.
• Memori: memori berterusan bagi setiap ejen, ditambah sandaran pangkalan pengetahuan daripada dokumen yang anda muat naik.
• Operasi: terhos dan diurus - pemasangan, pengehosan, penyelenggaraan dan pemantauan disertakan; satu aliran kerja lazimnya beroperasi dalam 1-2 hari bekerja selepas onboarding, pelaksanaan yang lebih besar dalam 1-3 minggu, dan semuanya diberi sebut harga serta diluluskan sebelum kami membina.
• Jalan keluar: tempoh perjanjian yang jelas, data yang boleh dipindahkan, dan dengan BYOK akaun model anda kekal milik anda.

Dan di mana kami jujurnya bukan jawapannya: jika keperluan anda ialah kerja individu - draf sekali-sekala, soal jawab umum, pasukan kecil tanpa saluran pelanggan - ruang kerja AI umum seperti ChatGPT atau Claude mungkin sudah memadai. Platform ejen berbaloi apabila ejen perlu berada dalam saluran anda, bertindak balas kepada peristiwa perniagaan, dan beroperasi di bawah kelulusan, sejarah audit dan kawalan perbelanjaan.