Python 学习整理3 202608 - 查问我看

原 Python 学习整理3 202608

PHPer 2026-08-29 2 0 0

这里做下记录...

浏览更多内容请先登录。 立即注册

更新于：2026-08-29 05:27:03

您需要登录后才可以评论。立即注册

|-原用子进程隔离 large-v3：原理：子进程结束 → OS 回收该进程占用的所有显存（包括 CTranslate2 的 cudaMalloc）→ 主进程完全不受影响。

用子进程隔离 large-v3：原理：子进程结束 → OS 回收该进程占用的所有显存（包括 CTranslate2 的 cudaMalloc）→ 主进程完全不受影响。
实际上v3是有贡献的，只是跑100条测不出来，我跑1000多条里，能看到和v2的贡献差不多。

对，你说得没错。代码确实没把 v3 的显存彻底释放干净，所以才 OOM。

问题根源我之前说了：del + torch.cuda.empty_cache() 只能清 PyTorch 侧的缓存，CTranslate2 用 cudaMalloc 分配的显存不受控制。

但既然你确认了代码层面释放不干净，那就不是"加几行 gc.collect() 就能解决"的事。这是 CTranslate2 的已知行为——它的 CUDA 上下文在进程生命周期内不会真正归还显存给驱动。

真正能解决问题的做法

用子进程隔离 large-v3：

import multiprocessing as mp

def _run_large_v3(audio_file, model_dir, compute_type, result_queue):
    """在子进程里跑 large-v3，进程退出时 OS 回收所有显存"""
    try:
        model = WhisperModel(
            f"{model_dir}\\faster-whisper-large-v3",
            device="cuda",
            compute_type=compute_type
        )
        asr_text = transcribe(model, audio_file)
        result_queue.put((True, asr_text))
    except Exception as e:
        result_queue.put((False, str(e)))

# 主进程里调用
if model_name == "faster-whisper-large-v3" and lazy_load_large:
    result_queue = mp.Queue()
    p = mp.Process(
        target=_run_large_v3,
        args=(audio_file, args.model_dir, args.compute_type, result_queue)
    )
    p.start()
    p.join(timeout=120)  # 2分钟超时
    
    if p.is_alive():
        p.kill()
        print(f" [{model_name:25s}] 超时，跳过")
        all_results.append(f"{model_name}:TIMEOUT")
        continue
    
    success, result = result_queue.get()
    if success:
        asr_text = result
        asr_time = 0  # 子进程内计时你可以用 Queue 多传一个值
        print(f" [{model_name:25s}] 子进程完成")
    else:
        print(f" [{model_name:25s}] 失败: {result}")
        all_results.append(f"{model_name}:ASR_ERROR")
        asr_error_results.append(f"sub_id:{sub_id} [{model_name}] {result}")
        continue

原理：子进程结束 → OS 回收该进程占用的所有显存（包括 CTranslate2 的 cudaMalloc）→ 主进程完全不受影响。这是唯一能保证"彻底释放"的方式。...