병렬프로세싱에서 부딪히는 문제점은 병렬 하드웨어를 성능향상에 활용하는 병렬처리프로그램이 많지 않다는 것이다. 병렬처리프로그램은 작성하는 데 많은 어려움을 겪는다. 병렬 프로세서가 처리할 수 있도록 프로그램을 조각내고, 이를 균등하게 맞추어야 하며, 각 프로세서 간 통신에 의한 오버헤드를 고려하는 등 여러 요소에서 제약을 맞추어야 병렬 프로세서을 이용해 성능을 향상시킬 수 있다. 최근에는 특별히 작성된 병렬 프로그램이 아닌 기존의 순차 프로그램이 단일 프로세서 내에서 명령어 수준의 병렬성(instruction-level parallelism, ILP) - 슈퍼스칼라, 비순차실행 등을 활용하여 빠르게 실행될 수 있기 때문에 극단적인 성능 향상의 경우가 아니라면 병렬 프로그램을 힘들게 작성해야 필요를 느끼지 ..