ความจำและความรู้

สี่ชั้น

สองอย่างแรกทำงานอยู่ตลอดเวลา จึงมีต้นทุนในทุกรอบ ส่วนสองอย่างหลังจะถูกค้นหาเมื่อจำเป็น และไม่มีต้นทุนใด ๆ จนกว่าจะถูกใช้ ความต่างนี้แหละคือเหตุผลทั้งหมดที่ต้องตั้งใจเลือกว่าจะเก็บอะไรไว้ที่ไหน

ความจำบทสนทนา

แต่ละบทสนทนาคือเธรดที่คงอยู่ถาวร ปิดเบราว์เซอร์ กลับมาอีกทีสัปดาห์หน้า เปิดมันขึ้นใหม่จากราง Chat เอเจนต์ก็ยังจำบริบทได้อยู่ บทสนทนาจะเรียงล่าสุดไว้บนสุด พร้อมป้ายชื่อที่อ่านง่าย ช่องทางที่มันมา จำนวนข้อความ และค่าใช้จ่ายสะสม

บทสนทนายาว ๆ ไม่พังลงกลางทาง เมื่อใกล้ถึงขีดจำกัดของโมเดล รอบเก่า ๆ จะถูกบีบอัดไว้ตรงที่เดิม เพื่อให้เธรดเดินหน้าต่อไปแทนที่จะแตกแขนง แถบบริบท ในส่วนหัวของแชตจะแสดงว่าตอนนี้บทสนทนาเต็มแค่ไหน และคำสั่ง /context จะเปิดการ์ดสรุปรายละเอียด บอกว่าพรอมป์ตระบบ เครื่องมือ ไฟล์ความจำ สกิล และข้อความ แต่ละอย่างกินพื้นที่เท่าไร และเหลือพื้นที่ว่างอยู่เท่าไร

มีคำสั่งสำคัญสองคำสั่งตรงนี้ /new จะเริ่มบทสนทนาใหม่ ซึ่งเป็นการตัดสินใจที่ถูกต้องทุกครั้งที่คุณเปลี่ยนหัวข้อ เธรดที่สะอาดมีต้นทุนถูกกว่าและคมกว่าเธรดยาว ๆ ที่แบกประวัติที่ไม่เกี่ยวข้องเอาไว้ /compact จะขอให้บีบอัดตอนนี้เลย แทนที่จะรอจนถึงขีดจำกัด

ความจำระยะยาว

ตัว ความจำ ส่วนนี้คือมุมมองตรงเข้าไปยังเอกสารความจำระยะยาวของเอเจนต์ ซึ่งถูกแทรกเข้าไปในคำสั่งของมันทุกรอบ มีโหมดการอ่านให้เลือกสามแบบ: โครงร่าง (ส่วนต่าง ๆ และข้อเท็จจริง กรองได้และยุบเก็บได้) อ่าน (แสดงผลแล้ว) และ ต้นฉบับ (ต้นฉบับมาร์กดาวน์) คัดลอก และ ดาวน์โหลด ทำตามชื่อของมันเป๊ะ

คุณเขียนลงไปได้สองวิธี ฟอร์มเพิ่มด่วนจะเติมข้อเท็จจริงหนึ่งอย่าง เลือกส่วนแล้วมันจะไปอยู่ในความจำระยะยาว หรือปล่อยช่องส่วนว่างไว้แล้วมันจะไปอยู่ในบันทึกประจำวันของวันนี้แทน ปุ่ม แก้ไข ปุ่มจะเปิดเอกสารทั้งฉบับเพื่อแก้ไข บันทึก จะเขียนทับไฟล์ด้วยการเขียนแบบอะตอมมิกครั้งเดียว

เอเจนต์ยังดูแลสิ่งนี้ด้วยตัวมันเองด้วย มีลูปพื้นหลังที่กลั่นบทสนทนาล่าสุดให้กลายเป็นบันทึกประจำวันที่มีวันที่กำกับ และพับส่วนที่คงทนของบันทึกเหล่านั้นเข้าไปในเอกสารความจำหลักเป็นระยะ นี่คือเหตุผลที่ความจำเติบโตขึ้นเองโดยไม่มีใครพิมพ์ใส่มันเลย

ทำให้ความจำระยะยาวสั้นกระชับไว้ มันถูกอ่านทุกรอบ จึงควรเก็บสิ่งที่มั่นคง เช่น ลูกค้าคือใคร สไตล์ของบริษัทเป็นอย่างไร ชอบซัพพลายเออร์รายไหน ไม่ใช่บันทึกการสนทนาของวันอังคารที่แล้ว

ฐานความรู้ของคุณ

ตัว ความรู้ ส่วนนี้สร้างชุดข้อมูลที่ค้นหาได้จากเอกสารและหน้าเว็บที่คุณป้อนให้ เพิ่มไฟล์แต่ละไฟล์ เพิ่ม URL สร้างที่เก็บที่ตั้งชื่อไว้เพื่อให้เนื้อหาแต่ละชุดแยกจากกัน ซิงก์ทั้งไดเรกทอรี ดูรายการที่ถูกจัดทำดัชนีแล้ว และลบแหล่งข้อมูลที่ไม่ต้องการอีกต่อไป การค้นหาทำงานครอบคลุมฐานความรู้ เวิร์กสเปซของเอเจนต์ ความจำของมัน หรือที่เก็บแบบกำหนดเอง

นี่คือที่ที่คู่มือผลิตภัณฑ์ รายการราคา นโยบาย ข้อเสนอเก่า และ PDF อ้างอิงควรอยู่ เอเจนต์ไม่ได้แบกสิ่งเหล่านี้ไว้ในหัวเลยสักอย่าง มันจะค้นหาเมื่อคำถามต้องการ แล้วอ้างอิงสิ่งที่พบ นั่นทำให้คำตอบยึดโยงอยู่กับเนื้อหาของคุณแทนที่จะยึดกับการฝึกทั่วไปของโมเดล และทำให้ต้นทุนของการเก็บคลังข้อมูลขนาดใหญ่เป็นศูนย์จนกว่าจะถูกใช้จริง

ไฟล์ที่อัปโหลดผ่านช่องพิมพ์ข้อความในแชตจะไปอยู่ในเวิร์กสเปซของเอเจนต์ และมองเห็นได้ใน ไฟล์ ส่วนภายใต้ uploads/ ทุกอย่างที่เอเจนต์สร้างขึ้น ไม่ว่าจะเป็นภาพที่สร้าง รายงาน หรือภาพหน้าจอ ก็จะไปอยู่ตรงนั้นด้วยเช่นกัน ทำให้ Files เป็นที่ที่ควรไปดูเมื่อคุณต้องการตัวชิ้นงานจริง ๆ ไม่ใช่แค่บทสนทนาที่พูดถึงมัน

บันทึก

ตัว บันทึก ส่วนนี้คือวิกิแบบมาร์กดาวน์ที่เชื่อมโยงกันซึ่งเอเจนต์อ่านและเขียนได้ แต่ละบันทึกมีชื่อเรื่อง แท็ก ชื่อแฝง และแหล่งที่มา และบันทึกเชื่อมโยงถึงกันได้ แผงผู้อ่านจะแสดงทั้งสองทิศทางของกราฟการเชื่อมโยงนั้นในรูปชิป ลิงก์ไปยัง และ ถูกอ้างอิงโดย เพื่อให้คุณเดินสำรวจรอบ ๆ แนวคิดหนึ่งได้ ช่องค้นหาจะค้นด้วยคำสำคัญทั่วทั้งชุดข้อมูล

มีแฟล็กหนึ่งอย่างที่ควรรู้ไว้: auto-inject บันทึกที่ทำเครื่องหมาย auto-inject ไว้จะถูกดันส่วนย่อยของมันเข้าไปในบริบทของเอเจนต์ทุกรอบ เหมือนความจำระยะยาว มีประโยชน์สำหรับคำสั่งประจำที่สมควรมีเอกสารของตัวเอง และจำกัดไว้แค่บันทึกล่าสุดห้ารายการแบบนี้ เพื่อไม่ให้มันบวมขึ้นเงียบ ๆ ส่วนที่เหลือทั้งหมดจะถูกค้นเมื่อจำเป็นเท่านั้น

สกิล

สกิลคือขั้นตอนที่ถูกสอนไว้ นั่นคือโฟลเดอร์ที่มีคำแนะนำเป็นลายลักษณ์อักษรและสคริปต์ให้รันแบบเลือกได้ ถ้าพรอมป์ตระบบบอกว่าเอเจนต์คือใคร สกิลก็บอกว่างานอย่างหนึ่ง ๆ ทำอย่างไร ทั้งขั้นตอน รูปแบบ และการตรวจสอบ เอเจนต์จะหยิบสกิลที่เกี่ยวข้องมาใช้เมื่องานตรงกัน และคุณเปิดหรือปิดมันได้ทีละเอเจนต์จากแท็บ สกิล ในหน้ารายละเอียดของเอเจนต์

สกิลมาจากสามแหล่ง คือสกิลที่มากับแพลตฟอร์ม สกิลที่เขียนขึ้นเพื่อระบบของคุณโดยเฉพาะ และสกิลที่เอเจนต์เรียนรู้ด้วยตัวเองผ่าน Cortex (ดู บทที่ 7). พิมพ์ /skills ในแชตเพื่อแสดงรายการว่าตอนนี้เอเจนต์มีอะไรอยู่จริง โดยจัดกลุ่มตามหมวดหมู่ ถ้าสกิลตัวไหนถูกการตรวจสอบความปลอดภัยกันไว้ มันจะถูกแสดงอยู่ตรงนั้นพร้อมเหตุผลด้วย แทนที่จะหายไปเงียบ ๆ

สกิลคือที่ที่เหมาะสมสำหรับอะไรก็ตามที่มีขั้นตอน “ร่างอัปเดตลูกค้าประจำสัปดาห์โดยดึงงานของสัปดาห์ที่แล้ว จัดกลุ่มตามบัญชี แล้วทำตามเทมเพลตนี้” คือสกิลอย่างหนึ่ง การพยายามเขียนมันลงในพรอมป์ตระบบเป็นย่อหน้าจะทำให้พรอมป์ตแย่ลงในทุกเรื่องอื่น ๆ

สิ่งนี้ควรอยู่ในส่วนไหน

• ข้อเท็จจริงที่ควรกำหนดรูปแบบทุกคำตอบ - เวลาทำการของเรา ชื่อซีอีโอ น้ำเสียงที่เราใช้ ไปอยู่ในความจำระยะยาว
• เอกสารที่อาจมีใครถามถึง - นโยบาย 40 หน้า แคตตาล็อก รายงานปีที่แล้ว ไปอยู่ในฐานความรู้
• วิธีที่ทำซ้ำได้ - วิธีที่เราคัดกรองลีด วิธีที่เราจัดรูปแบบสรุปข่าว ไปอยู่ในสกิล
• สิ่งที่เกี่ยวข้องแค่กับเธรดนี้เท่านั้น - แค่พูดในบทสนทนานั้น มันจะถูกจำไว้ตราบเท่าที่บทสนทนานั้นยังมีชีวิตอยู่

ความผิดพลาดที่พบบ่อยคือการเทเอกสารลงไปในความจำระยะยาว มันใช้ได้ดีอยู่หนึ่งสัปดาห์ จากนั้นทุกคำตอบก็จะช้าลง แพงขึ้น และสับสนมากขึ้น เพราะเอเจนต์แบกตู้เก็บเอกสารทั้งตู้เข้าไปในทุกบทสนทนา จงเก็บเอกสารไว้ในที่ที่เอกสารควรอยู่