本地搭建大模型，能用OpenAPI HTTPS访问吗？

admin

ChatGLM3的OpenAPI方案：
使用项目中的openai_api.py文件启动OpenAPI兼容服务
默认监听http://localhost:8000，可通过Nginx配置HTTPS
阿里云MCP方案：
通过阿里云的OpenAPI MCP Server作为中间层
提供标准化的HTTPS接口
以下是ChatGLM3的OpenAPI服务完整实现方案：
Nginx:
Nginx_https.conf

1. server {
   
2.     listen 443 ssl;
   
3.     server_name your-domain.com;
   
4. 
   
5.     ssl_certificate /path/to/cert.pem;
   
6.     ssl_certificate_key /path/to/key.pem;
   
7. 
   
8.     location / {
   
9.         proxy_pass http://localhost:8000;
   
10.         proxy_set_header Host $host;
    
11.         proxy_set_header X-Real-IP $remote_addr;
    
12.     }
    
13. }
    

复制代码

Python:
openai_api.py:

1. from fastapi import FastAPI
   
2. from fastapi.middleware.cors import CORSMiddleware
   
3. import uvicorn
   
4. from pydantic import BaseModel
   
5. from typing import List, Optional
   
6. import os
   
7. 
   
8. app = FastAPI()
   
9. 
   
10. # 允许跨域
    
11. app.add_middleware(
    
12.     CORSMiddleware,
    
13.     allow_origins=["*"],
    
14.     allow_credentials=True,
    
15.     allow_methods=["*"],
    
16.     allow_headers=["*"],
    
17. )
    
18. 
    
19. class Message(BaseModel):
    
20.     role: str
    
21.     content: str
    
22. 
    
23. class ChatRequest(BaseModel):
    
24.     model: str = "chatglm3"
    
25.     messages: List[Message]
    
26.     temperature: float = 0.8
    
27.     top_p: float = 0.8
    
28.     max_tokens: Optional[int] = None
    
29.     stream: bool = False
    
30. 
    
31. @app.post("/v1/chat/completions")
    
32. async def chat_completion(request: ChatRequest):
    
33.     # 这里替换为实际调用本地模型的代码
    
34.     response = {
    
35.         "model": request.model,
    
36.         "choices": [{
    
37.             "message": {
    
38.                 "role": "assistant",
    
39.                 "content": "这是本地大模型的响应"
    
40.             }
    
41.         }]
    
42.     }
    
43.     return response
    
44. 
    
45. @app.get("/v1/models")
    
46. async def list_models():
    
47.     return {
    
48.         "data": [{
    
49.             "id": "chatglm3",
    
50.             "object": "model",
    
51.             "created": os.path.getmtime(__file__),
    
52.             "owned_by": "local"
    
53.         }]
    
54.     }
    
55. 
    
56. if __name__ == "__main__":
    
57.     uvicorn.run(app, host="0.0.0.0", port=8000)
    

复制代码

1、 HTTPS安全配置 - Nginx反向代理配置
2、系统服务化 - 使用systemd管理服务
注意事项：
1、需要申请有效的SSL证书（可使用Let's Encrypt免费证书）
2、生产环境建议添加身份验证（如API Key）
3、高并发场景需要配置适当的负载均衡
4、建议使用gunicorn+uvicorn组合提高并发性能