まずは普通の圏におけるendの定義から。
F:C^\op \times C \to Xを関手とする。
Fの関手性からCの射f:c \to c'に対し
- F(f,c'):F(c',c') \to F(c,c')
- F(c,f):F(c,c) \to F(c,c')
が定まる。
FのwedgeとはXの対象wとCの対象cごとに定まる射e_c:w \to F(c,c)であって次をみたすもの。
任意のCの射f:c \to c'に対して射w \to F(c,c')としてF(c,f)e_c = F(f,c')e_c'が成り立つ。
Fのwedgeに対して普遍性をみたすものをFのendという。
つまり、任意のwedge wに対して射w \to end(F)が一意的に存在する。
V-enriched categoryにおけるendの定義。
まずはV-enriched functor F:C^op \otimes C \to Vの場合、つまり関手の行き先がV自身の場合を考えよう。
Vがmonoidal categoryであるからCの対象c, c'に対し、
- lambda_{c,c,c'}:F(c,c) \otimes C(c,c') \to F(c,c')
- \rho_{c,c',c'}:F(c',c') \otimes C(c,c') \to F(c,c')
が定まる。
これはV=Setとすれば、射の合成を考えることに対応する。
つまり上で定めたF(f,c')やF(c,f)がこれに対応する。
Fに対するextranatural transformationとはVの対象vとCの対象cごとに定まるVの射\theta_c:v \to F(c,c)で次をみたすもの。
任意のCの対象c,c'に対し
- \theta_cが誘導する射\theta_c:v \otimes C(c,c') \to F(c,c) \otimes C(c,c')
- \theta_c'が誘導する射\theta_c':v \otimes C(c,c') \to F(c',c') \otimes C(c,c')
と上の\lambda, \rhoとの合成が射v \otimes C(c,c') \to C(c,c')として
\lambda_{c,c,c'}\theta_c=\rho_{c,c',c'}\theta_c'をみたす。
V=Setとした時、これはwedgeの定義と対応している。
このextranatural transformationに対する普遍性をみたすものをFのendと定め、これを\int_c:C F(c,c)とかく。