ChatGPT-3 与我的本地PC在协作中运行的oobabooga webui交互

6bc51xsx  于 2023-10-24  发布在  其他
关注(0)|答案(1)|浏览(578)

如何用我的python终端与oogabooga webui交互?我运行的是向导模型或Pygmarts模型。有人尝试过吗?如果是,你能提供代码吗?
我试着用他的GitHub中给出的API例子来做,但我不能.

yxyvkwin

yxyvkwin1#

你好,有一些程序用localtunnel将本地地址投射到在线托管示例,看看那些我相信你需要在178 IP中输入端口号到接口中,它会返回一个IP代码和一个Web地址,然后它会启动所需的可访问接口。
下面是另一种方法的示例,该方法将直接在collab notebook示例中传递信息:

import threading
import time
import socket
def iframe_thread(port):
  while True:
      time.sleep(0.5)
      sock = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
      result = sock.connect_ex(('127.0.0.1', port))
      if result == 0:
        break
      sock.close()
  from google.colab import output
  output.serve_kernel_port_as_iframe(port, height=1024)
  print("to open it in a window you can open this link here:")
  output.serve_kernel_port_as_window(port)

threading.Thread(target=iframe_thread, daemon=True, args=(8188,)).start()

!python main.py --dont-print-server

问候!莱利

相关问题