Shopify 將系統提示詞壓縮為主旨詞元

有什麼變化

Shopify 開發了 Gisting 這項新的提示詞壓縮技術。

為什麼重要

如果效果理想，Gisting 可望降低重複系統指令帶來的上下文負擔，並提升大型語言模型應用的效率。開發者仍需評估壓縮後是否能保留精確的行為限制。

下一步行動

使用具代表性的系統提示詞建立 Gisting 原型，並與原始提示詞比較指令遵循準確度、詞元用量及延遲。