# Ray自动处理资源分配
@ray.remote(num_gpus=1)  # 自动分配1个GPU
class GPUWorker:
    def __init__(self):
        self.model = load_model()
    
    def inference(self, data):
        return self.model.generate(data)