fix multinode tp.

Author: hiworldwzj

lightllm/server/httpserver/manager.py

@@ -57,7 +57,8 @@ def __init__(
         self.node_rank = args.node_rank
         self.transfer_lock = asyncio.Lock()  # the lock for transfer to next module in multi node mode.
         self.disable_abort = args.nnodes > 1 and args.dp == 1  # mulitnode dp=1 mode, disable abort
-        if args.nnodes > 1:
+        self.is_multinode_tp = args.dp == 1 and args.nnodes > 1
+        if self.is_multinode_tp:
             if args.node_rank == 0:
                 self.multinode_req_manager = []
                 for child_ip in args.child_ips:

lightllm/utils/multinode_utils.py

@@ -6,9 +6,11 @@
 
 
 def send_and_receive_node_ip(args):
-    # 传输子node的ip
-    if args.nnodes > 1:
-
+    # 在多节点tp的部署形式中，0 号节点作为主节点，其他节点作为
+    # 从节点，0 号节点需要知道所有从节点的ip信息，这样才能构建
+    # 一些通信组件转发请求信息给从节点。
+    is_multinode_tp = args.dp == 1 and args.nnodes > 1
+    if is_multinode_tp:
         if args.node_rank == 0:
             args.child_ips = None
             args.child_ips = []