티스토리 뷰
병렬처리 코드 with progress bar
import parmap
num_proc = multiprocessing.cpu_count()
result = parmap.map(func_name, input_list, pm_pbar=True, pm_processes=num_proc)
함수 결과가 list일 때 flatten하게 결과값 받기
import multiprocessing
def collect_results(lst):
result_list.extend(lst)
num_proc = multiprocessing.cpu_count()
pool = multiprocessing.Pool(processes=num_proc)
result_list = pool.map(function_name, input_list, callback=collect_results)
pool.close()
pool.join()
'프로그래밍 > 개발' 카테고리의 다른 글
[pip] install 혹은 uninstall 시 에러 무시 (0) | 2023.04.12 |
---|---|
[Windows] 포트포워딩 설정 및 포트 개방 (0) | 2023.04.12 |
[pip] 모든 패키지 일괄 업그레이드 (0) | 2023.04.11 |
[vscode] git commit과 push 동시에 하기 (0) | 2023.04.07 |
[python] list, list in list 중복 제거 (0) | 2023.04.03 |
댓글
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
링크
TAG
- 명령어
- PYTHON
- list
- vsCode
- tqdm
- metric
- 시나리오
- 개발
- multiprocessing
- Process
- Git
- PIP
- Jupyter Notebook
- 포트포워딩
- nlp
- killall
- progress bar
- 자연어처리
- dockerfile
- Docker
- tensor
- 중복 제거
- 알스트로메리아
- uninstall
- pytorch
- gpu
- kill
- 자료형
- install
- linux
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 |
글 보관함