나카노시마도서관 본관　（중앙 부분와 1호 서고) 는 메이지37년 (1904년) 에 수미토모 본가 15대 가장인 키치자에몬 (住友吉左衛門)　씨의 기부로 새워졌다.
설계는 수미토모 일문의 건축기사인 노구치 마고이치　（野口孫市) 씨와 히다카 유타카　（日高胖）　씨에 의해 진행되었다.
코린트식 원기둥이 떠받치고 있는 정면은 그리스 신전을, 돔 형태인 중앙 홀은 교회를 연상시키게 한다.
타이쇼 11년（1922년）에 수미토모가의 기부금과 히다카 유타카 씨의 설계로 좌우의 날개가 증축됨으로서, 현 건물이 거의 완성되었다. 쇼와 49년 (1974년)　에는 본관 및 좌우양익이 국가 중요 문화재로 지정되었다.
（참고: 아사노 키요시 ’오사카후리쯔도서관의 건축’, ’오사카후리쯔도서관 기요’ 제 9호）

나카노시마도서관 정면에 서서 현관을 올려다보면 오른쪽에서 왼쪽으로 ‘오사카 도서관’ 이라고 쓰여진 문자를 읽을 수 있다.
‘오사카 부립 도서관’이 아니라 (부에서 설립함.
’부’는 일본 행정 구분에서 지방 공공 단체의 하나) ‘오사카’ 도서관인 것이다.
이것은 나카노시마 도서관이 개관한 메이지37년 (1904년) 이전에는 오사카에 도서관다운 도서관이 없었던 것을 의미한다.

도서관 안의 중앙 홀에 있는 거대한 동판 ‘겐칸기후기’ (建館寄付記)　에서 이 도서관 기부자인 수미토모 키치자에몬 씨는 이렇게 말했다.
오사카는 인구도 많고 다양한 것들이 갖추어져 있어 학문도 뛰어나지만 도서관만이 없다는 것이다.
계속해서 그는 ‘도서관 건물과 도서 구입을 위해 기금을 기부해서 작은 힘이나마 도움이 되고 싶다’고 말했다. 그의 용감하고 훌륭한 의기는 본받아 마땅할것이다.

중앙 홀 좌우 벽면에는 동제로 된 그리스풍의 반나체 청년 조각상이 두개 서있다.
오른쪽에 긴장된 표정으로 전방을 주시하고 있는 것이 ’야진상’으로 ‘야생’을 표현하는 것이고, 왼쪽에 책을 보고 있는 ‘분진상’은 ‘지성’을 표현하는 것이다.
이 조각상들은 좌우양익을 증축했던 타이쇼11년（1922년), ‘나가사키 평화 기원 남성 나체상’의 작자로 유명한 키타무라 세이보 (北村西望)　씨에 의해 세워졌다.

메이지 36년 (1903년)　8월에 거행된 상량식에서 사용되었던 “棟札　(置札)“ 앞면 (왼쪽) 에는 건축주인 수미토모 키치자에몬와 타쯔노 긴고 (辰野金吾)　박사 (공사 고문), 공학사인 노구치 마고이치나, 히다카 유타카 (설계, 감독) 등의 이름들이 쓰여져 있다.
뒷면　（오른쪽）　에는 석수, 벽돌, 목수 등의 각종 직공 대표자들의 이름이 쓰여져 있다.

쇼와 29(1954)년, 우리 도서관과 연고가 있는 가진（단카 작가）카와다 준(川田順)은 창립　50주년을　맞아 이와 같은　단카（5,7,5,7,7의 5구31음으로 구성된 일본 고유의 시）를 보냈다.　도서관 정면　옆에 그 기념비가 남아있다.
‘오사카 한가운데에 심은 지혜 나무는 50년이 지난 후, 큰 나무가 되었다.’