Bernhard Gmelin wurde in Kiel geboren. Er begann sein Studium an der Hamburger Musikhochschule bei Arthur Troester und wurde zwei Jahre später dessen Assistent. Ein Stipendium der Studienstiftung des deutschen Volkes ermöglichte ihm die Fortsetzung seines Studiums bei André Navarra in Paris. Mit seinem Klaviertrio wurde er durch den Deutschen Musikrat gefördert und mit dem Mendelssohnpreis ausgezeichnet. Nach Engagements als Solo-Cellist am Staatstheater Hannover und beim Bayerischen Rundfunk ist Bernhard Gmelin seit 1974 Solo-Cellist im Sinfonieorchester des NDR, mit dem er regelmäßig als Solist auftritt. Er ist außerdem Professor an der Hochschule für Musik und Theater Hamburg.