自分のAppで独自のファイル形式を使っているとき、拡張子も独自のものにしていると思います。

メールの添付ファイルを開くときなど、他のAppから自分のアプリへ「送る」「開く」
をしてもらえるようにする方法です。

まずは、(App名)-Info.plistを開きます。

「Document types」と、「Exported Type UITs」を追加します。
Document Content Type UTIs、Identifier　…　独自のファイル形式を指す、システムでユニークな名前を指定する（ドメイン形式を逆にしたものが推奨されるとのこと）
public.filename-extension　…　拡張子をシステムに宣言する

ここまでできたら、ビルドして実機で実行すると、
インストールとともに、システムに拡張子が登録されます。

メール添付などでこの拡張子のファイルを「送る」と、
自分のAppが選べるようになります。

この後、UIDocumentInteractionControllerの仕組みを通じて
自分のAppで受け取るコードを追加していきますが、
それについては以下のページを参照してみて下さい。

参考ページ：
iOSの中で、アプリケーション同士が連携するためのしくみ
UIDocumentInteractionControllerによる、アプリケーション間のファイル受渡し
iOSでユーザ拡張子を定義する方法