Skip to content

需要终止流式输出并继续流式输出修改后的内容 #767

@xxxzpx

Description

@xxxzpx

您好,我想在目前的基础上修改一些功能,在最终的report上修改一些内容,让流式输出在需要修改的地方停止,前端停止输出,然后再修改report内容,继续生成修改后的内容。
或者是不流式输出report,完全接收report之后再流式输出修改后的report。
但是我观察到node里是invoke接口,不是stream接口,所以能请问一下是如何实现llm边生成边流式输出的,需要去模仿构造已有的event吗,上述的修改思路能实现吗。想请教您一下,希望能答疑解惑,谢谢!

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions