阿尔法特种部队成立于1974年，是前苏联国家安全委员会（克格勃）所属的特种部队，它的最初名称是A小组；1991年以后又被称为阿尔法小组。组建该特勤小组的直接起因则是因为70年代初以来，恐怖主义更是猖獗一时：绑架暗杀、扣押人质、劫持飞机、炸弹爆炸，全世界几乎日无安宁，恐怖主义也开始威胁到苏联。遂阿尔法成立并从国家安全机关、空降兵、边防部队、军校毕业生中精心挑选成员。
阿尔法特种部队于苏联解体后由俄罗斯联邦、白俄罗斯及乌克兰等继承国接管，其中俄罗斯的阿尔法特种部队目前隶属于俄罗斯联邦安全局特种作战中心A科，并先后参与过车臣战争、1993年俄罗斯宪政危机、2002年莫斯科轴承厂文化宫大楼剧院人质事件及2004年别斯兰人质事件等。
目前阿尔法特种部队有5个分队，有大约700名人。大多数的部队驻扎在莫斯科，其余的驻扎其他三个城市：克拉斯诺达尔、叶卡捷琳堡、哈巴罗夫斯克。阿尔法特种部队采用现代俄罗斯和外国的武器和装备，同时不断更新，以适合需求。
在20世纪90年代的两次车臣战争期间，阿尔法特种部队参与了捕杀车臣分离分子的行动。
1996年，车臣一武装首领杜拉耶夫率领匪徒冲入基兹利亚尔市，将市内三千多名居民胁持为人质，小组作为强攻的第二梯队于五一镇与武装分子交战，最终成功救回人质，但事件中超过500人死亡。
1997年，瑞典驻俄使馆商务顾问纽斯特例被匪徒胁持要求3百万元美金，阿尔法特种部队成功击毙了匪徒。
2002年，莫斯科歌剧院胁持事件发生，车臣独立分子闯入莫斯科轴承厂文化宫胁持宫内的850多名人质，阿尔法特种部队与胁持者对峙多日后决定以秘密化学气体麻醉表演厅内所有人，再强攻剧院，结果大部分人质被救，但同时有超过一百名人质因为吸入麻醉气体而死亡，这次行动令阿尔法特种部队的行动受到严厉责难。
2004年，车臣独立分子在别斯兰劫持了1200名人质，阿尔法特种部队与另一特种部队信号旗特种部队负责强攻体育馆，行动中令两支部队至少有11名士兵阵亡，事件最后更以悲剧收场，其中超过三百人死亡，最严重的是当中接近一半是小童。
另外阿尔法特种部队没有明显的政治取向，曾经两次拒绝因政府因素而执行的军事行动。“阿尔法”中所有的战士都受过嘉奖，每人都有五六枚勋章。每次行动，“阿尔法”人员都是用生命去冒险，两名战士获得过苏联英雄称号，5人被追认为俄罗斯英雄。
