기계적 공감의 원칙 | 해커 뉴스
Principles of Mechanical Sympathy | Hacker News
TL;DR AI
1분핵심 요약
대부분의 AI 런타임은 모델 추론 호출을 한 번에 하나만 실행할 수 있다.
요청량은 시스템 한계에 비해 매우 낮다고 설명된다.
병렬 처리는 문제의 각 부분이 서로 거의 간섭하지 않을 때 효과가 크다.
고빈도 매매는 공유 자원이 매우 경쟁적이고 로컬해서 잘 맞는다.
글로벌 시퀀스도 매우 경쟁적이고 로컬한 공유 자원으로 언급된다.



