Biblioteka powstała w 1954 r. w wyniku scalenia niewielkich księgozbiorów trzech Katedr: Fizyki Doświadczalnej, Fizyki Teoretycznej i Mechaniki Teoretycznej. Nosiła ona wtedy nazwę Biblioteki Zespołu Katedr Fizyki UMK, a jej księgozbiór liczył 2250 vol. W roku 1969, kiedy utworzono Instytut Fizyki, biblioteka stała się automatycznie Biblioteką Instytutu Fizyki. Obecnie nasz księgozbiór liczy 32 035 woluminów. Od samego początku istnienia biblioteki wprowadzono zasadę wolnego dostępu do księgozbioru. I tak jest do dzisiaj, większość książek czytelnik wybiera sam. Przez blisko 45 lat, do marca 2007 roku, biblioteką kierowała pani mgr Maria Jankowska,  starszy kustosz dyplomowany.