Bộ nhớ và kiến thức

Bốn lớp

Hai lớp đầu luôn hoạt động nên tốn chi phí ở mỗi lượt; hai lớp sau chỉ được tra cứu khi cần và không tốn gì cho đến khi được dùng. Sự khác biệt đó chính là toàn bộ lý do để cân nhắc kỹ xem thứ gì nên nằm ở đâu.

Bộ nhớ trò chuyện

Mỗi cuộc trò chuyện là một luồng bền vững. Đóng trình duyệt, quay lại vào tuần sau, mở lại từ thanh Chat - tác nhân vẫn còn giữ ngữ cảnh đó. Các cuộc trò chuyện được liệt kê mới nhất trước, kèm nhãn dễ đọc, kênh mà chúng đến từ đó, số tin nhắn và chi phí đang chạy.

Một cuộc trò chuyện dài không sụp đổ: khi tiến gần giới hạn của mô hình, các lượt cũ được nén gọn tại chỗ để luồng tiếp tục thay vì tách nhánh. thanh ngữ cảnh trên tiêu đề khung chat cho biết cuộc trò chuyện hiện đang đầy tới đâu, và lệnh /context sẽ mở một thẻ phân tích - cho biết prompt hệ thống, công cụ, tệp bộ nhớ, skill và tin nhắn mỗi thứ đang chiếm bao nhiêu chỗ, và còn lại bao nhiêu khoảng trống.

Có hai lệnh quan trọng ở đây. /new bắt đầu một cuộc trò chuyện mới, đây là động thái đúng đắn mỗi khi bạn đổi chủ đề - một luồng sạch sẽ rẻ hơn và sắc bén hơn một luồng dài mang theo lịch sử không liên quan. /compact yêu cầu nén ngay bây giờ thay vì chờ đến giới hạn.

Bộ nhớ dài hạn

Đây Bộ nhớ mục là khung nhìn trực tiếp vào tài liệu bộ nhớ dài hạn của tác nhân, được chèn vào chỉ dẫn của nó ở mỗi lượt. Có ba chế độ đọc: Dàn ý (các mục và sự kiện, lọc được và thu gọn được), Đọc (đã dựng) và Thô (mã nguồn markdown). Sao chép và Tải xuống làm đúng như tên gọi của chúng.

Bạn có thể ghi vào đó bằng hai cách. Biểu mẫu thêm nhanh gắn thêm một sự kiện đơn lẻ: chọn một mục và nó rơi vào bộ nhớ dài hạn; để trống mục đó và nó sẽ vào nhật ký hằng ngày của hôm nay thay vào đó. Nút Sửa nút mở toàn bộ tài liệu để chỉnh sửa - Lưu ghi đè tệp trong một lần ghi nguyên tử.

Tác nhân cũng tự bảo trì việc này. Một vòng lặp chạy nền chắt lọc các cuộc trò chuyện gần đây thành một nhật ký hằng ngày có đánh ngày, và định kỳ gấp các phần bền vững của những nhật ký đó vào tài liệu bộ nhớ chính. Đó là lý do vì sao bộ nhớ tự lớn lên mà không cần ai gõ vào nó.

Hãy giữ bộ nhớ dài hạn ngắn gọn. Nó được đọc ở mỗi lượt, nên nên chứa những thứ ổn định - khách hàng là ai, phong cách riêng của công ty là gì, nhà cung cấp nào được ưa chuộng - chứ không phải bản ghi lại cuộc trò chuyện thứ Ba tuần trước.

Kho kiến thức của bạn

Đây Tri thức mục dựng nên một bộ sưu tập tìm kiếm được từ tài liệu và trang web bạn cung cấp. Thêm từng tệp riêng lẻ, thêm URL, tạo các kho có tên để các khối tài liệu khác nhau tách biệt nhau, đồng bộ cả một thư mục, xem danh sách những gì đã được lập chỉ mục, và loại bỏ những nguồn bạn không còn muốn nữa. Việc tìm kiếm chạy trên kho kiến thức, không gian làm việc của tác nhân, bộ nhớ của nó, hoặc một kho tùy chỉnh.

Đây là nơi các sổ tay sản phẩm, bảng giá, chính sách, đề xuất cũ và PDF tham khảo nên thuộc về. Tác nhân không mang bất kỳ thứ nào trong số đó trong đầu; nó tìm kiếm khi một câu hỏi cần đến và trích dẫn những gì tìm thấy. Điều đó giữ cho câu trả lời bám chắc vào tài liệu của bạn thay vì vào quá trình huấn luyện chung của mô hình, và giữ cho chi phí lưu giữ một kho ngữ liệu lớn ở mức không cho đến khi thực sự cần đến nó.

Các tệp được tải lên qua ô soạn tin nhắn sẽ vào không gian làm việc của tác nhân và hiển thị trong Tệp mục, trong uploads/ Bất cứ thứ gì tác nhân tạo ra - một hình ảnh được tạo, một báo cáo, một ảnh chụp màn hình - cũng rơi vào đó, khiến Files trở thành nơi cần tìm khi bạn muốn chính vật phẩm đó chứ không phải cuộc trò chuyện nói về nó.

Ghi chú

Đây Ghi chú mục là một wiki markdown liên kết mà tác nhân đọc và viết. Mỗi ghi chú có tiêu đề, thẻ, tên khác và nguồn, và các ghi chú liên kết với nhau; khung đọc hiển thị cả hai chiều của biểu đồ liên kết đó dưới dạng Liên kết đến và Được tham chiếu bởi , để bạn có thể dạo quanh khu vực lân cận của một ý tưởng. Một ô tìm kiếm chạy tìm kiếm theo từ khóa trên toàn bộ sưu tập.

Có một cờ đáng để biết: auto-inject. Một ghi chú được đánh dấu auto-inject sẽ có đoạn trích của nó bị đẩy vào ngữ cảnh của tác nhân ở mỗi lượt, giống như bộ nhớ dài hạn - hữu ích cho một chỉ dẫn thường trực xứng đáng có tài liệu riêng, và bị giới hạn ở năm ghi chú gần nhất kiểu đó để nó không âm thầm phình to. Mọi thứ khác đều được tra cứu khi cần.

Kỹ năng

Một skill là một quy trình đã được dạy: một thư mục chứa chỉ dẫn viết sẵn và, tùy chọn, các script để chạy. Trong khi prompt hệ thống nói tác nhân là ai, một skill nói cách một công việc cụ thể được thực hiện - các bước, định dạng, các bước kiểm tra. Tác nhân lấy ra cái phù hợp khi công việc khớp, và bạn bật hoặc tắt chúng theo từng tác nhân từ tab Kỹ năng trên trang chi tiết của tác nhân.

Skill đến từ ba nơi: những skill có sẵn kèm nền tảng, những skill viết riêng cho bản triển khai của bạn, và những skill mà tác nhân tự học được qua Cortex (xem chương 7). Gõ /skills trong khung chat để liệt kê những gì tác nhân hiện tại thực sự đang có, được nhóm theo hạng mục. Nếu một skill bị đợt kiểm tra an ninh giữ lại, nó cũng được liệt kê ở đó kèm lý do, thay vì âm thầm biến mất.

Skill là chỗ đúng đắn cho bất cứ việc gì có các bước. “Soạn bản cập nhật khách hàng hằng tuần bằng cách lấy các việc của tuần trước, nhóm chúng theo tài khoản, và khớp theo mẫu này” là một skill; cố nhồi nó thành một đoạn trong prompt hệ thống sẽ khiến prompt tệ đi ở mọi thứ khác.

Cái này nên để ở đâu?

• Một sự thật cần định hình mọi câu trả lời - giờ làm việc của chúng ta, tên của CEO, giọng điệu chúng ta dùng - đi vào bộ nhớ dài hạn.
• Một tài liệu mà ai đó có thể hỏi về - chính sách dài 40 trang, catalogue, báo cáo năm ngoái - đi vào kho kiến thức.
• Một phương pháp lặp lại được - cách chúng ta thẩm định một lead, cách chúng ta định dạng bản tóm lược - đi vào một skill.
• Điều gì đó chỉ liên quan đến luồng này - chỉ cần nói ra trong cuộc trò chuyện. Nó được nhớ chừng nào cuộc trò chuyện đó còn tồn tại.

Sai lầm thường gặp là đổ tài liệu vào bộ nhớ dài hạn. Nó chạy tốt trong một tuần, rồi mỗi câu trả lời sau đó chậm hơn, tốn kém hơn và rối hơn, vì tác nhân phải mang cả một tủ hồ sơ vào mỗi cuộc trò chuyện. Hãy đặt tài liệu vào nơi tài liệu nên ở.