1880년 4월 원산이 개항하여 일본인 거류지가 만들어지고, 일본 상인들이 상업활동을 시작하자, 덕원·원산의 지방민들은 새로운 세대에게 신지식을 교육하여 인재를 양성함으로써 외국의 도전에 대응하기로 하고, 나름대로 서당을 개량하여 운영하고 있었는데, 1883년 1월에 새로 부임해온 덕원부사 겸 원산감리 정현석(鄭顯奭)에게 설립기금을 모집할 뜻을 밝히고 근대 학교를 설립하여 줄 것을 요청하였다.

정현석은 서북경략사(西北經略使) 어윤중(魚允中)과 원산항 통상 담당의 통리기무아문 주사인 승지 정헌시(鄭憲時)의 지원을 받으면서 관민이 합심하여 1883년에 원산학사를 설립하였다.

설립기금은 덕원·원산의 주민들, 원산상회소(元山商會所), 정헌석·어윤중·정헌시·외국인 등이 참여해서 모았으며, 1883년 8월에 학교 설립을 정부에 보고하여 정식 승인도 받기에 이르렀다. 설립 초기에는 학교를 문예반과 무예반(武藝班)으로 편성하였는데, 문예반 정원은 없었으나 약 50명의 학생을 뽑았고, 무예반은 정원 200명을 뽑아서 교육·훈련하여 별군관(別軍官)을 양성하도록 하였다.

입학 자격은 (1)덕원·원산 지방의 연소하고 재주있는 자제로 하고, (2)학교설립에 기금은 내지 않는 지방민의 자제도 차별없이 입학시키도록 하였으며, (3)다른 읍민이라도 입학금을 가져오면 거절하지 않으며, (4)무사로서 무예반에 들어와 배우고자 하는 자는 입학금 없이 입학을 허락하였다.

원산학사는 종래 한국 최초의 근대학교로 알려졌던 배재학당보다 실제로 2년 앞서 설립되었다. 한국 최초의 근대학교이자 근대 최초의 민립학교인 원산학사의 설립은 한국 근대사에서 큰 의의를 지닌다. 그것은 외국인 손에 의하지 않고 우리나라 사람들의 손으로 설립되었다는 것, 정부의 개화정책에 앞서 민간인들이 자발적으로 자금을 모아 근대학교를 설립하였다는 것, 지방의 개항장에서 시무에 대처하기 위하여 설립되었다는 점 등이 특히 주목된다.

1894년 갑오개혁 무렵에 원산학사는 본래의 소학교와 중학교의 기능이 나뉘어 원산학사는 문예반만 갖춘 원산소학교가 되고, 원산 감리서에서 역학당(譯學堂)을 세워 중학교의 기능을 하면서 소학교 졸업생들에게 외국어와 고등교육을 실시하였다. 원산소학교는 남산동의 같은 자리에 교사를 증축하고 크게 발전하다가 일제강점기에는 처음에 원산보통학교로, 나중에는 원산제일국민학교가 되어 1945년까지 존속하였다.