森林は多様な樹高を持つ樹木種が競争しながら共存する空間であり，その層構造が樹木種間の共存機構に大きな影響を与えていると言われている（森林構造仮説; Kohyama(1993)）。そこで、生物個体が成長しながら各層を経過し、最上層で繁殖する過程を多層構造系と名付け，負の密度効果が多層構造系の動態の安定性に与える影響について検討するために、以下の数理モデルについて解析を行ってきた。

　　　　dx₁/dt = f(X)x_n-g₁ (X)x₁-m₁ (X)x₁

　　　　dx_i/dt = g_i-1 (X)x_i-1- g_i (X)x_i-m_i (X)x_i (i=2,..,n-1)

　　　　dx_n/dt = g_n-1 (X)x_n-1-m_n (X)x_n

式中、x_iは第i層の個体数、Xは(x₁,x₂,…,x_n),およびf,g,mはそれぞれ繁殖率、推移率、死亡率を表す。過去の研究では，2,3, 4層モデルについて、f,g,mが密度効果を受ける形式を変えて、集団動態の安定性を検討した結果を報告した。

本講演では，森林の多層構造が成立する過程で高木種への進化を繰り返してきたと仮定し，下記の下層種と上層種で構成される二層二種モデルについて共存安定解析を行った結果を報告する。

　　　　dx₁/dt = f(X,y)x₂-g₁ (X,y)x₁-m₁ (X,y)x₁

　　　　dx₂/dt = g₁ (X,y)x₁-m₂ (X,y)x₂

　　　　dy/dt = f’(X,y)y-m’₁ (X,y)y

その結果、成長率関数g₁がx₁によって密度効果を受けていると、共存解は不安定になる可能性があることがわかった。また、下層種によって上層種の繁殖率などが密度効果を受けると共存解は不安定になる可能性が高まることがわかった。