電視劇《亮劍》中，在遇到山本仙人之前，李云龍就已經試圖集中團內尖兵，利用有特長，軍事素質過硬的士兵，成立突擊隊的想法。而在原著中，李云龍則將這個想法徹底落實，并取得了非凡的戰果，這支特種分隊，就是他麾下的“梁山”分隊。
組建背景
李云龍師主力C團，是參與金門戰役登陸部隊的第一梯隊，但是因為部隊指揮問題，缺乏越海登陸的經驗，北方兵不適應亞熱帶叢林作戰等原因，該團在此次戰役中全軍覆沒，金門戰役以失敗告終。
為了將來的對抗，所部由蘇聯特種作戰專家指導展開了海上作戰，叢林作戰，野外生存等課題的訓練。
在訓練中特種兵出生的羅布霍夫上校以1對41的戰績，和李云龍最精銳的師偵察連一排打成平手，更是讓李云龍深刻的意識到了什么是特種作戰。
在軍事學院的學習結束時，李云龍交出了他的畢業論文《論冷戰時期的特種作戰》
組建過程
丁偉去找李云龍的路上，遇到了段鵬，并打了一架（和劇中情節大抵相同，不同的是原著中此時李云龍并不認識段鵬），丁偉認為段鵬有大才，向李云龍推薦了段鵬。
徒手格斗就不用說了，我使用各種輕武器在行，包括不同姿勢的精度射擊。我練過輕功，不敢說飛檐走壁，在攀登方面算是高手。我懂針灸，識草藥，會在戰場上自救。還有，1950年我在你手下受過亞熱帶叢林戰訓練，蘇聯教官給我的評語是全優。還有，我的語言能力強，部隊里天南海北哪兒的人都有，我學會不少地方方言，北方語言不用說了，南方的江浙一帶方言、兩湖兩廣方言、閩南客家話、潮州方言我都能說。我還在炮兵集訓隊學習過，懂得圖上作業和炮兵專業。還有，步兵偵察分隊的專業我更拿手，我現在干的就是偵察。
這是段鵬向李云龍做的自我介紹
李云龍隨后即令段鵬在全軍中開展人員選拔“我命令你立刻組建一支特種分隊，人員由你挑選，在本軍范圍內，不管是哪個單位，一律無條件放人。”
選拔特種兵的原則是李云龍定的：首先考慮的是人員的綜合素質，文盲絕對不要，文化程度越高越好。這是選拔特種兵，不是選五好戰士，不怕你有一身缺點，就怕你沒本事。
段鵬便在之后半年，包括自己在內，為李云龍組建了一只由108人構成的特種分隊。正好108將，于是分隊代號就定為梁山。
組建要求
段鵬給隊員明確了訓練要求
第一，體能訓練，每天早晨10公里武裝越野，腿上綁沙袋；
第二，萬米泅渡，人人過關；
第三，駕駛訓練，摩托車、汽車、坦克、裝甲車、小型艦艇，都要熟練掌握；
第四，傘降、機降訓練。
還有，炮兵觀測、無線電技術、戰場自救
每個隊員都是全面要求，力求就算僅剩一人，也有能力完成作戰任務。
經典戰績
梁山分隊小隊第一次露臉是在演習中活捉了1號首長李云龍。實戰則是配合李云龍完成了炮轟金門的戰役。
當時的炮戰因為情報問題，李云龍無法獲悉島山的具體部署，故十炮九空，無法對地方進行有效打擊
而梁山分隊潛行登島，完全沒有被守軍發現，他們利用專業知識，為火炮調整炮擊坐標，解放軍的炮彈像長了眼睛，落點極準，有的炮彈居然徑直飛進了炮位，將敵軍連人帶炮炸個粉碎。
不過這次守島的是李云龍的故舊楚云飛
云飛兄很快察覺梁山分隊的存在，并予以反擊取得效果。最終梁山分隊以損失15個隊員的代價完成了任務。
梁山分隊在這次行動中立了大功，受到了嘉獎令，段鵬和林漢各記一等功。
