友人に貸した小説が汚れて返却されました。 しかも一言も謝らないんですが…どうしたら反省して詫びてくれると思いますか？

自分なら指摘しますね。
人によっては物の扱い方が丁寧な人か、そうでないかは一緒にいて性格で分かるところはありますね。

今回は、確実に自分でつけた傷でないのであれば本人に確認とりますね。
私も、年下の子に漫画本を貸していったら途中で返って来なかった事かありした、正直もうどうでもいいかなと思ったのですが、
きちんと返してもらうよう考えて伝えた所、本人は借りた後どこにやったか分からずいたのでしょう。返す事が出来なかったようで新本を買って返ってきました。
私は、人から借りたものを責任もって返す感覚を持たせて良かったと思ってます。そこで曖昧にしておいても本人のためにもならないし、自分が損しなきゃならないのか。と思いました。
次から貸さない選択は前提として、きちんと話せるなら話した方がお互いのためになると思います