최근 경제학의 새로운 패러다임에 따라 부각되는 이론 중 하나인 행위경제학은 주식시장에서 투자자가 보이는 비합리적 행위를 설명하는데 일정한 성과를 거두고 있다. 투자자들의 지나친 자신감, 군중심리, 투매성향 등을 통해 비합리적 투자행위를 설명한 것이다.심리학의 연구 결과에 따르면 개인들은 자신의 판단력을 지나치게 높게 평가하는 경향이 있다. 실수를 했어도 실수를 인정하지 않고 피치 못할 사정에 의해 발생한 것으로 합리화시키기도 한다. 이 같은 경향은 주식투자에 있어서도 나타난다. 우연히 선택한 주식 종목의 가격이 급등하면 자신이 선견지명이 있었기 때문이라고 생각 하고, 그 종목을 추가 매입한다. 이 때문에 한번 주가가 오른 종목은 과잉신뢰 경향을 보이는 투자자의 추가 매수에 의해 아무 이유 없이 한 동안 주가 상승세를 지속하게 된다. 반면 투자자들이 지나치게 자신감이 부족할 때도 있다. 다른 사람이 매수하면 따라서 매수하고, 다른 사람이 매도하면 따라서 매도하는 것이다. 이 같은 군중심리가 일부 투자자의 과잉신뢰와 결합되면, 주가 고평가 현상이 장기간 지속되어 거품 현상을 초래할 수도 있다. 군중심리를 보이는 투자자들은 증시의 불확실성이 높아질 때는 투매 성향을 보인다. 적정주가에 대한 분석 없이 주식 투자에 나섰기 때문에, 주가의 하락세가 나타나면 이것 저것 따져볼 것 없이 무조건 팔고 보는 것이다. 주가 폭락 현상이 종종 나타나는 것은 이 같은 투자자의 성향 때문이다. 비합리적 투자행위 중의 또 하나는 투자자들이 매수 시점의 주가에 지나치게 집착하는 경향이다. 합리적 투자자라면 매수 시점의 주가에 관계 없이 현 주가가 적정주가를 밑돌면 추가 매수하고, 그 반대의 경우 보유 주식을 팔아야 한다. 그러나 현실속의 투자자들은 이와 반대로 투자를 해, 투자수익률을 떨어뜨리는 경향이 있다. 현재 많은 성과를 얻고 있는 행위경제학은 그러나 전통경제학에 비해 일관성이 떨어지고 미래 예측능력도 부족하다는 평가를 받고 있다. 따라서 인간의 비합리성을 강조하는 행위경제학이 초기단계를 벗어나 `정상과학`으로 발전하는 데는 다소 시간이 걸릴 것으로 전문가들은 보고 있다.