this is a photo of my family 还是this is the photo of my famil

两个句子都是正确的,但是应用的语言环境不同,其实这就是 a 与 the 的区别.
a 只是个数量词,它只代表数量.但 the 有一些特指的意思.
比如,朋友来你家做客,看到你家的一个合影,你可以说“this is a photo of my family”,没什么特殊的意思,这是我家的一张合影.
比如,朋友来你家做客,你和他提起过你家有一张合影,你拿给他看,你应该说“this is the photo of my family”,这里就是特指的你跟他提起过的那张.实际上这句话后面省略了半句“I mentioned about”（我提到的）.
相似的例子：He is a man from that company VS He is the man from that company
前者表述的意思只是“他是那个公司的人”
后者表述的意思就是“他就是那公司的那个人”（显然之前你们讨论过那个人,现在碰见了）,这就是 the 的特指作用.
还有黑客帝国里面,都说Neo是救世主,这里说的是“He is the one”.
不知你有点感觉了没有?
不明白的话咱们可以继续讨论,

this is a photo of my family .是指泛指的一张照片。可以是你说的很多照片 中的一张。
this is the photo of my family。THE 是特指，是你所说的那张照片。 这个要正确。

this is a photo of my family .是指泛指的一张照片。可以是你说的很多照片 中的一张。
this is the photo of my family。THE 是特指，是你所说的那张照片。