소스 검색

feat: disable anthropic retry (#1067)

takatost 1 년 전
부모
커밋
d75e8aeafa
1개의 변경된 파일1개의 추가작업 그리고 0개의 파일을 삭제
  1. 1 0
      api/core/third_party/langchain/llms/anthropic_llm.py

+ 1 - 0
api/core/third_party/langchain/llms/anthropic_llm.py

@@ -29,6 +29,7 @@ class AnthropicLLM(ChatAnthropic):
                 base_url=values["anthropic_api_url"],
                 base_url=values["anthropic_api_url"],
                 api_key=values["anthropic_api_key"],
                 api_key=values["anthropic_api_key"],
                 timeout=values["default_request_timeout"],
                 timeout=values["default_request_timeout"],
+                max_retries=0,
                 connection_pool_limits=Limits(max_connections=200, max_keepalive_connections=100),
                 connection_pool_limits=Limits(max_connections=200, max_keepalive_connections=100),
             )
             )
             values["async_client"] = anthropic.AsyncAnthropic(
             values["async_client"] = anthropic.AsyncAnthropic(