베타함수 (Beta Function) $B(x, y)$는 이항계수 $\binom{n}{k}$를 실수 전체의 범위로 확장 시킨 것으로, 다음과 같이 정의합니다.
$$ B(x, y) = \int_{0}^{1} t^{x - 1} {(1 - t)}^{y - 1} \, dt $$이렇게 정의하면 $\binom{n}{k} = \frac{1}{(n + 1) B(n - k + 1, k + 1)}$을 만족합니다.
$$ B(x, y) = \frac{\Gamma(x) \, \Gamma(y)}{\Gamma(x + y)} $$삼각함수의 적분꼴으로 정의하는 방법도 있습니다.
$$ B(x, y) = 2 \int_{0}^{\frac{\pi}{2}} \sin^{2 x - 1}\theta \cos^{2 y - 1}\theta \,d\theta, \qquad \Re(x)>0, \Re(y)>0 $$$\sin(x)$는 사인함수 , $\cos(x)$는 코사인함수 , $\Re(x) > 0$, $\Re(y) > 0$는 복소수 $x$, $y$의 실수부 가 양수라는 뜻입니다.