Bagaimana ejen AI mempelajari kemahiran baharu - dan mengemas selepasnya

Memori memberitahu apa yang benar. Kemahiran memberitahu bagaimana kerja dilakukan.

Kebanyakan perbualan tentang memori AI berhenti pada fakta, dan fakta memang berharga untuk disimpan: harga anda, peraturan eskalasi anda, siapa akaun yang sukar. Keseluruhan susunan itu diceritakan dalam Bagaimana ejen AI mengingati. Ia benar-benar berguna, namun ia bukan perkara yang sama dengan kecekapan.

Kecekapan bersifat prosedur. Laporan Isnin disusun dalam susunan tertentu, daripada sumber tertentu, dengan peringatan tertentu. Pertanyaan bayaran balik disemak terhadap tiga perkara sebelum sesiapa menjawabnya. Semakan pembekal setiap suku tahun mengeluarkan enam angka yang sama. Ejen yang memiliki fakta sempurna tanpa prosedur akan melakukan setiap satunya sedikit berbeza setiap kali, dan ragam itulah yang disedari oleh pasukan anda.

Sebab itu ejen Olano menyimpan artifak jenis kedua di sebelah memori: kemahiran. Kemahiran ialah folder kecil yang mengandungi fail SKILL.md - satu nama, satu penerangan sebaris, satu pencetus yang menyatakan bila hendak menggunakannya, dan langkah bernombor. Ada kemahiran yang datang bersama platform. Ada yang datang daripada pek kemahiran atau pasaran. Ada yang anda tulis sendiri. Dan ada yang ditulis oleh ejen untuk dirinya sendiri, daripada kerja yang benar-benar dilakukannya.

Kategori terakhir itulah yang dibincangkan artikel ini.

Dari mana datangnya kemahiran yang dipelajari

Setiap pusingan yang dibuat ejen ditambah pada satu transkrip. Satu laluan latar belakang membaca transkrip itu mengikut kadar - setiap jam pada tetapan paling aktif, setiap empat jam pada tetapan paling perlahan - dan ia hanya membaca apa yang belum dibacanya, dijejaki melalui ofset bait bagi setiap transkrip. Tiada apa yang dianalisis semula, dan tiada apa yang terlepas kerana fail bertambah besar antara dua larian.

Dari situ, laluan ini sengaja dibuat sukar dipicu:

• Kurang daripada empat pusingan baharu, ia tidak membuat apa-apa. Ofset tetap dimuktamadkan, supaya pusingan itu tidak bertimbun sehingga larian kemudian mentafsirnya secara berlebihan.
• Ia berjalan pada peringkat penaakulan mendalam, atau ia tidak berjalan. Tiada model ganti yang murah. Setiap ejen mempunyai had harian bagi larian mendalam - kira-kira enam, dua belas, atau dua puluh empat bergantung pada pratetap kadar - dan apabila had atau bajet perbelanjaan habis, kitaran itu dilangkau dan dicuba semula kali berikutnya, dengan ofsetnya dibiarkan belum dimuktamadkan. Analisis yang merosot lebih buruk daripada tiada analisis: ia menghasilkan prosedur yang yakin dan salah.
• Ia berundur sementara memori sedang ditulis semula. Laluan penyatuan memori mengambil satu kunci; penyuling melihatnya dan berundur, bukannya menambah ke dalam fail yang sedang ditulis semula sepenuhnya.

Apabila ia benar-benar berjalan, fakta masuk ke memori dahulu. Kemudian, jika pembelajaran kemahiran dihidupkan, pusingan yang sama pergi ke laluan kedua.

Peninjau membaca perpustakaan sebelum membaca transkrip

Inilah bahagian yang menghalang perpustakaan yang dipelajari daripada menjadi tempat pembuangan. Peninjau kemahiran tidak diberikan satu perbualan lalu ditanya "apa yang kamu pelajari?". Ia diberikan satu perbualan dan satu inventori setiap kemahiran yang sudah ada pada ejen itu - termasuk kemahiran terurus dan pihak ketiga yang berada di luar ruang kerjanya sendiri dan yang tidak dapat dilihat oleh alat failnya - lalu ditanya apa yang kurang, jika ada.

Setiap calon yang dipulangkannya membawa satu tindakan, dan dua daripada tiga tindakan itu tidak menghasilkan kemahiran baharu sama sekali:

• skip - keupayaan itu sudah ada. Ini hasil yang paling lazim, dan ia satu kejayaan.
• update - kemahiran yang ada hampir merangkuminya dan patut ditajamkan. Calon itu menamakan sasarannya.
• create - benar-benar baharu. Hanya ketika itu satu kemahiran ditulis.

Kemahiran baharu kemudian melalui satu semakan kedua yang mengimbas nama yang hampir serupa, berhenti jika menemuinya, dan menulis SKILL.md yang tersusun rapi dengan frontmatter yang betul. Jika semakan itu tidak dapat disempurnakan, sistem menulis calon itu terus, daripada kehilangannya.

Memperbaiki kemahiran yang bukan tulisannya

Kes yang menarik ialah penambahbaikan, kerana pelaksanaan yang paling jelas justeru yang salah.

Kemahiran yang anda pasang bukan satu dokumen tunggal. Ia mungkin buku panduan berbilang fail: satu SKILL.md bersama skrip, jadual rujukan, borang, templat. Dan pemilikannya di hulu - apabila pek asalnya dikemas kini, folder itu diganti sepenuhnya. Jadi ejen yang "memperbaiki" kemahiran begitu dengan menulisnya semula di tempatnya telah melakukan dua kesilapan sekali gus: ia memerah buku panduan menjadi satu ringkasan, dan ia meletakkan penambahbaikannya tepat di laluan kemas kini berikutnya, yang akan memadamnya secara senyap.

Olano mencabang sebaliknya. Kali pertama seorang ejen memperbaiki kemahiran yang bukan miliknya:

• Seluruh folder disalin ke perpustakaan pembelajaran ejen itu, bait demi bait, dengan rujukan laluan dalaman ditulis semula supaya salinan itu berfungsi dari lokasi baharunya.
• Salinan itu menggunakan nama asal yang tepat sama, jadi apabila ejen memuatkan kemahirannya, salinan itu menaungi yang asal dan bukan menggantikannya. Fail asal tidak pernah disentuh pada cakera.
• Satu rekod asal usul ditulis di sebelahnya: cap jari setiap fail sumber pada masa pencabangan, cap jari setiap fail salinan pada masa yang sama, dan struktur seksyen fail SKILL.md yang asal.
• Satu petikan keadaan awal yang tidak disentuh disimpan berasingan, untuk menjadi dasar cantuman kemudian.

Setiap penambahbaikan seterusnya dikenakan pada salinan itu, secara tambahan. Dua sifat terhasil daripada ini yang tidak mungkin ada pada reka bentuk tulis-semula-di-tempat: "adakah penambahbaikan ini kehilangan sesuatu?" menjadi soalan yang boleh disemak terhadap garis dasar yang direkodkan, bukan perbandingan kabur antara dua dokumen yang tidak berkaitan, dan "adakah yang asal berubah di hulu?" kekal boleh dijawab selama-lamanya.

Pintu pemeliharaan

Mod kegagalan yang dibimbangi semua orang pada sistem yang mengubah dirinya ialah kemerosotan beransur dan senyap: setiap laluan sedikit lebih pendek, sedikit lebih tawar, sehingga apa yang dahulunya berfungsi menjadi satu perenggan kata-kata kosong. Berjanji bahawa itu tidak akan berlaku bukan jawapan kejuruteraan.

Jadi salinan yang dipelajari disemak terhadap keadaan awalnya sendiri yang direkodkan setiap kali kemahiran dimuatkan. Ia gagal jika:

• satu fail yang ada pada masa pencabangan sekarang hilang;
• satu fail teks mengecil di bawah separuh saiz asalnya (fail di bawah kira-kira setengah kilobait dikecualikan, kerana fail kecil memang wajar berubah saiz dengan banyak);
• fail SKILL.md kehilangan lebih daripada satu pertiga tajuk seksyen yang asal.

Salinan yang gagal dikuarantin - ia berhenti menaungi, dan yang asal berkhidmat semula. Ejen kehilangan satu penambahbaikan; ia tidak kehilangan kemahiran yang berfungsi. Dan pintu ini sengaja dikenakan hanya pada salinan yang ditulis mesin: kemahiran dipelajari yang ditulis manusia dengan tangan tidak sekali pun dikuarantin, kerana penggantian yang disengajakan patut kekal berwibawa walaupun lebih pendek.

Apabila yang asal berubah di bawahnya

Akhirnya kemahiran di hulu akan dikemas kini - satu penyegaran pek, satu kemas kini pasaran, atau satu suntingan oleh pasukan anda. Kini ada dua keturunan yang kedua-duanya bergerak, dan rekod asal usul itu memungkinkan cantuman tiga hala yang sebenar, bukan satu tekaan. Peleraian dibuat fail demi fail, dan secara muktamad dahulu: model hanya dirujuk di tempat jawapan muktamad tidak ada.

Skrol jadual ke sisi untuk melihat semua lajur.

Selepas itu cap jari dan petikan dasar dikemas kini kepada keadaan yang telah dicantum. Itulah yang membuatkan kitaran ini menumpu: hanyutan yang sama tidak pernah ditanda semula, dan pintu pemeliharaan terus bekerja terhadap garis dasar yang baharu, bukan yang sudah lama. Salinan yang sedang gagal pintu itu dilangkau sepenuhnya daripada cantuman - mencantum semula salinan yang merosot bermakna membersihkannya kembali ke dalam perkhidmatan.

Satu laluan ke seluruh perpustakaan

Mengesahkan kemahiran satu demi satu bukan perkara yang sama dengan menjaga perpustakaan supaya tetap padu. Jadi satu laluan berasingan, mengikut jadualnya sendiri, membaca setiap kemahiran yang ada pada ejen dan memperlakukan koleksi itu sebagai satu unit kerja: mencantum pendua dan hampir-pendua menjadi satu versi berwibawa dengan nama terbaik, pencetus terjelas dan gabungan langkah; memadam folder yang telah dicantumnya; mencantum semula salinan yang asalnya telah hanyut; dan memperbaiki apa yang tinggal.

Batas ini dikuatkuasakan, bukan nasihat: bagi laluan ini, yang asal dan kemahiran terurus adalah baca sahaja. Ia hanya boleh menyunting, mencantum dan memadam di dalam perpustakaan pembelajaran. Sebelum bermula, setiap fail yang mungkin disentuhnya dipetik, dan apabila selesai ia melaporkan apa yang diubahnya dengan satu butang buat asal.

Perlakuan yang sama untuk ruang kerja itu sendiri

Tetapan ejen itu sendiri juga prosa, dan prosa yang ditulis sedikit demi sedikit selama berbulan bertimbun dengan cara yang sama: arahan yang sama diungkap tiga cara di tiga tempat, satu keutamaan dicatat dalam fail yang salah, satu nota berulang dalam sebelas log harian berturut-turut, dan kadangkala dua arahan yang bercanggah secara senyap.

Satu laluan penyatuan ruang kerja menguruskan hal itu. Ia membaca fail identiti, kelakuan, arahan dan memori jangka panjang ejen, ditambah log hariannya bagi dua minggu terakhir, lalu menulisnya semula di tempatnya: mencantum pendua yang diungkap semula, membuang percanggahan, mengumpul kandungan berkaitan di bawah tajuk yang jelas, dan memindahkan kandungan ke fail tempat ia sepatutnya berada. Log harian menerima penyingkiran pendua paling tegas, kerana di situlah pengulangan berkumpul paling cepat.

Arahan yang dipatuhinya hanya sepanjang satu ayat, dan ayat itu memikul segala-galanya: peliharakan suara ejen dan setiap arahan yang unik; satukan, jangan sekali pun hapuskan. Seperti laluan perpustakaan, setiap fail sasaran dipetik dahulu, dan hasilnya dilaporkan dengan buat asal satu klik.

Dua dasar, dan perbezaannya penting

Bukan semua dalam kitaran ini ditadbir sama, dan pembahagian itu disengajakan, bukan kerana mudah.

• Mengubah apa yang disuruh dilakukan oleh ejen hanyalah cadangan. The pass that reviews recent work and concludes an agent's instructions should be sharper does not edit those instructions. It writes grounded proposals into a review queue, and they wait - even with Fully Autonomous on, which otherwise lets new skills, memory and tidy-ups apply on their own. Nothing rewrites an agent's instructions because a background job thought it should, unless a deployment owner has explicitly lifted that hold for the agent.
• Pengemasan tanpa kehilangan dikenakan terus, dengan petikan dan buat asal. Menyingkir pendua memori, mencantum dua kemahiran dipelajari yang serupa, menyatukan nota yang berulang - semua ini tidak mengubah apa yang dilakukan ejen, hanya betapa rapinya ia ditulis. Menuntut satu klik manusia bagi setiap satu akan melatih pasukan anda untuk meluluskan tanpa membaca, dan itu hasil paling buruk bagi baris gilir yang benar-benar penting. Jadi ia dikenakan terus, selepas satu petikan, dan setiap larian melaporkan apa yang diubahnya dengan buat asal.

Semuanya boleh ditutup. Setiap kelakuan - penyulingan, pembelajaran kemahiran, penjagaan perpustakaan, penyatuan ruang kerja, penyatuan memori - ialah satu suis berasingan, boleh ditetapkan untuk seluruh penggunaan dan boleh diatasi bagi setiap ejen dalam kedua-dua arah, jadi "tutup di semua tempat kecuali ejen ini" ialah tetapan yang benar-benar ada. Di atasnya ada satu suis induk, dan satu pilihan berasingan antara berjalan mengikut jadual atau berjalan hanya apabila diminta. Pratetap kadar - perlahan, seimbang, agresif - menggerakkan jadual dan had harian penaakulan mendalam bersama-sama, dan kesemuanya tunduk kepada kawalan perbelanjaan ketat yang sama yang mentadbir segala yang lain dalam penggunaan itu.

Bagaimana satu kitaran penuh kelihatan

Himpunannya perlahan dan khusus. Laporan yang disusun ejen operasi anda dengan tangan tiga minggu berturut-turut sudah ada sebagai prosedur bertulis pada minggu keempat. Kemahiran pek yang hampir sesuai untuk industri anda membawa pembetulan anda, dan masih menyerap kemas kini pembekal yang berikutnya dan bukan diratakan olehnya. Fail arahan yang membesar sampai empat halaman panduan bertindih menjadi dua halaman tanpa pertindihan, dan setiap ayat yang hanya ada dalam versi yang anda padam masih ada dalam versi yang anda simpan.

Apa ini bukan

Tiada pemberat model dilatih, ditala halus, atau dilaraskan. Seluruh kitaran ini bekerja satu lapis di atas model, pada artifak yang ditulis dalam bahasa biasa di dalam penggunaan terasing anda sendiri: kemahiran, catatan memori, cadangan arahan. Semuanya fail. Pasukan anda boleh membacanya, menyuntingnya dengan tangan, meluluskannya, mengembalikannya, dan mengaudit siapa mengubah apa dan bila.

Ini bukan batasan yang kami cuba elak. Justeru itulah sebabnya kitaran ini menjadi sesuatu yang boleh anda tadbir dan bukan sesuatu yang perlu anda percayai sahaja - dan atas sebab yang sama juga, model di bawahnya boleh ditukar tanpa ejen kehilangan apa yang telah dipelajarinya.