Di sebalik platform
Bagaimana ejen AI mengingati: memori, pengetahuan dan kemahiran
Model bahasa dengan sendirinya tidak mengingati apa-apa: tutup sembang, konteks pun hilang. Sistem perniagaan yang dibina di atas asas itu perlu menyelesaikan soal memori secara sengaja. Beginilah cara Olano melakukannya - empat lapisan, setiap satu dengan tugas berbeza, semuanya berada dalam persekitaran terasing anda sendiri.
Masalah amnesia
Setiap model bahasa besar tidak menyimpan keadaan. Ia menjawab berdasarkan apa yang ada di hadapannya ketika itu - perbualan setakat ini, dan apa sahaja yang diletakkan bersamanya. Tiada apa-apa yang kekal antara sesi melainkan sistem di sekeliling model itu membuatnya kekal.
Untuk sembang santai, itu tidak mengapa. Untuk kerja operasi, itu melumpuhkan. Sebuah kaunter hadapan yang bertanya nombor pesanan kepada pelanggan tetap setiap kali bukanlah kaunter hadapan. Pembantu operasi yang lupa keputusan minggu lepas akan mengulang perbahasan itu setiap minggu. Memori bukan tambahan yang menyenangkan pada sistem AI perniagaan - ia perbezaan antara seorang pekerja dan orang asing yang sopan.
Jadi soalan jujur yang patut ditanya kepada mana-mana platform ejen AI bukanlah "adakah modelnya pintar?" tetapi "di mana ia menyimpan apa yang ia tahu tentang perniagaan saya - dan siapa lagi yang boleh menyentuhnya?"
Susunan memori, lapisan demi lapisan
1. Memori perbualan yang kekal selepas sesi berakhir
Ejen Olano menyimpan memori berterusan merentas sesi. Pelanggan yang menghubungi bulan lepas dikenali dalam konteks pada bulan ini; pembetulan yang dibuat pasukan anda pada hari Selasa masih berkuat kuasa pada hari Jumaat. Ejen bekerja berdasarkan rentetan hubungan itu - bukan sekadar rentetan satu perbualan.
2. Memori jangka panjang, disuling - bukan ditimbun
Transkrip mentah cepat lapuk: fakta yang berguna tertimbus di bawah empat puluh baris basa-basi. Itulah sebabnya Olano Cortex membaca semula kerja yang lalu secara berkala dan menyuling apa yang penting ke dalam memori jangka panjang - keputusan, keutamaan, fakta yang berbaloi disimpan - dan, dalam kitaran pengemasannya, menjaga memori itu supaya kekal segar: catatan yang usang dicantas, pendua digabungkan. Memori yang hanya bertambah menjadi bising; memori yang dijaga rapi bertokok nilainya.
3. Pangkalan pengetahuan: dokumen anda sebagai sumber kebenaran
Ada perkara yang sepatutnya tidak "diingat" langsung - ia sepatutnya dirujuk. Harga, dasar, spesifikasi produk dan prosedur kerja berada dalam pangkalan pengetahuan yang dibina daripada dokumen anda sendiri, dan ejen menyandarkan jawapannya di situ. Apabila senarai harga berubah, anda kemas kini dokumen itu dan ejen menjawab berdasarkan versi baharu. Tiada latihan semula, tiada pembedahan prompt - sumber kebenaran kekal sebagai fail yang memang diselenggara oleh pasukan anda.
Ini juga lapisan yang memastikan jawapan kekal jujur: ejen yang bersandar pada sumber akan memetik dasar bayaran balik anda yang sebenar, bukan mereka-reka satu yang kedengaran munasabah.
4. Kemahiran: memori prosedur
Mengetahui fakta ialah satu jenis memori; mengetahui cara anda melakukan sesuatu itu jenis yang lain. Kemahiran merakam prosedur - ajar sekali, dan ejen mengulanginya dengan cara yang sama setiap kali. Cortex juga boleh mendraf kemahiran sendiri apabila ia perasan kerja yang sama berulang. Laporan bulanan, cara anda menilai kelayakan petunjuk jualan, langkah tepat untuk mengangkat sesuatu aduan: ditulis sekali, dilaksanakan secara konsisten selepas itu.
Memori ialah infrastruktur khusus
Semua yang di atas berada dalam persekitaran terasing anda sendiri. Ejen, memori, fail, aplikasi bersambung dan sejarah anda tidak pernah bercampur dengan data pelanggan lain, dan semuanya disulitkan semasa disimpan dan semasa dihantar. Hal ini lebih penting bagi memori berbanding hampir apa-apa lagi: inilah lapisan yang mengumpulkan hubungan pelanggan anda, logik penetapan harga anda, dan prosedur dalaman anda. Inilah data yang patut anda soal dengan tajam - panduan PDPA kami menyenaraikan soalan yang berbaloi diajukan kepada mana-mana vendor, termasuk kami.
Rupa susunan ini semasa ia bergerak
Setiap lapisan menjawab soalan yang berbeza. Memori: siapa ini dan apa yang kita tahu? Pangkalan pengetahuan: apa yang benar sekarang? Kemahiran: bagaimana kita mengendalikan hal ini? Dan pintu kelulusan merentangi kesemuanya, jadi apa yang ejen tahu tidak pernah melangkaui apa yang dibenarkan untuknya lakukan - seni bina yang dibincangkan dalam buku panduan kelulusan-dahulu kami..
Kesan bertokok inilah intinya. Chatbot sama sahaja pada hari pertama dan hari ketiga ratus. Sistem Olano pada hari ketiga ratus mengenali pelanggan tetap anda, katalog anda, prosedur anda, dan nada bahasa anda - kerana urusan mengingat tidak diserahkan kepada model. Ia dibina ke dalam platform.
Bacaan berkaitan
Bahagian lain siri "Di sebalik platform", dan panduan yang menjadi sandaran artikel ini.
Di sebalik Olano Cortex
Enjin yang menyuling, mengemas dan menambah baik susunan memori ini - dengan kelulusan anda pada setiap perubahan.
Ejen AI pelbagai model
Memori dan kemahiran berada dalam platform, bukan dalam model - itulah sebabnya model di bawahnya boleh ditukar dengan bebas.
PDPA dan ejen AI
Di mana memori perniagaan bertemu data peribadi: keizinan, tempoh simpanan, dan soalan yang patut diajukan kepada vendor.
Apakah itu ejen AI?
Asas dalam bahasa mudah: bagaimana ejen berbeza daripada chatbot, dan mengapa "paip" di belakang itulah produknya.
Soalan Lazim
Adakah ejen AI benar-benar mengingati perbualan sebelum ini?
Ejen Olano memang mengingati - memorinya kekal merentas sesi secara reka bentuk. Pelanggan yang kembali tidak perlu memperkenalkan diri semula, dan pembetulan serta keutamaan pasukan anda terus terpakai. Selain sejarah perbualan mentah, Olano Cortex secara berkala menyuling perkara yang penting ke dalam memori jangka panjang supaya fakta penting kekal walaupun perbualan individu makin lama.
Apa yang berlaku apabila harga atau dasar saya berubah?
Ejen menyandarkan jawapannya pada pangkalan pengetahuan yang dibina daripada dokumen anda sendiri - senarai harga, dasar, spesifikasi produk, prosedur kerja. Kemas kini dokumen itu dan ejen menjawab berdasarkan versi baharu; tiada model perlu dilatih semula dan tiada prompt perlu ditulis semula untuk perubahan perniagaan yang biasa.
Adakah memori ejen saya dikongsi dengan perniagaan lain?
Tidak sekali-kali. Setiap sistem Olano berjalan dalam persekitaran terasingnya sendiri - ejen, memori, fail, aplikasi bersambung dan sejarah anda tidak pernah bercampur dengan data sesiapa pun, dan semuanya disulitkan semasa disimpan dan semasa dihantar.
Apakah perbezaan antara memori, pangkalan pengetahuan dan kemahiran?
Memori ialah apa yang dipelajari ejen daripada melakukan kerja - pelanggan, keputusan, keutamaan. Pangkalan pengetahuan ialah apa yang anda berikan kepadanya - dokumen yang menjadi sandaran jawapannya. Kemahiran pula ialah prosedur - diajar sekali, atau didraf oleh Cortex daripada kerja yang berulang, kemudian diulang dengan cara yang sama setiap kali. Bersama-sama, ketiga-tiganya merangkumi fakta yang dipelajari, fakta yang diberikan, dan cara sesuatu itu dilakukan.
Gunakan sistem yang mengenali perniagaan anda
Tempah sesi perundingan dan kami akan petakan aliran kerja anda yang paling bernilai, berikan cadangan harga tetap, dan hanya membina selepas anda bersetuju - bersandar pada dokumen anda sejak hari pertama.