蒋介石很早就注意建立特务组织，而且他委任特务头目，从来都是交给最亲信的人把持。
早在北伐战争时期，蒋介石自任北伐军总司令和黄埔军校校长办公室的机要秘书，从此一直参预机密。蒋介石总司令部有个机要科，则完全是做特务工作的。“四·一二”事变后，机要科划归到国民党中央组织部，成立了专以特务活动为任务的调查科，陈立夫即出任调查科首任科长。
在第一次国共合作期间，国民党组织部也有党务调查科，其任务只不过收集整理党内的各种檔案资料，间或做一做一般性的社会政治调查，谈不上搞什么特务活动。所以蒋介石认为这个组织起不到什么作用。“清共”之后，蒋介石担任了国民党中央组织部长，陈果夫担任了副部长、代理部长，陈立夫担任了调查科长，性质就完全改变了。
蒋介石规定调查科的任务，是调查党员的思想、派系隶属和搜集共产党及其它异己组织的情报。在“四·一二”政变之后，在蒋介石的授意下，调查科尤其发挥了极其重要的作用。当时在“清共”浪潮下，国民党的“清共”整党组织和军警机关一时手足无措，是调查科积极配合提供共产党组织状况及党员的情报和名册，致使大批的共产党组织遭到破坏，成千上万的共产党员被捕遇难。在这方面调查科为巩固蒋介石的统治立下了汗马功劳。据新中国建国后中共中央组织部门和政府民政部门统计：1927年“四·一二”清党至1932年这一期间，至少有一百万以上共产党和革命群众被杀害，而其中在调查科直接策划下的牺牲者更不是一个小数目。
由于蒋介石看到了调查科的重要作用，所以他也愈来愈重视这个特务组织，并对它予以了特殊的偏爱。因为蒋介石一贯认为有两个法宝最能维护自己的江山，一是军队，二就是特务。因而，从某种意义上来说，蒋介石就是靠特务活动和特务组织起家的。
在调查科成立初期，蒋介石还没有一统天下，江山并不稳固，财政状况也相当困难。黄埔军校的某届学员班都曾受到遣散，但对于调查科他却不惜血本，真是要人给人，要钱给钱，从各个方面予以大力支持。
首先，从任命陈立夫任调查科长就可以看出蒋介石的良苦用心。蒋介石与陈家的关係非同一般，不仅是因为陈立夫是浙江人（蒋介石是很看重同乡关係的），更因为陈立夫的叔父陈其美在民国初年曾任沪军都督，蒋介石是陈其美的老部下；同时又与陈立夫之兄陈果夫在上海交易所是老搭檔。有了这层关係，蒋陈两家关係极为亲近。陈立夫呼蒋介石为“蒋三伯伯”。陈立夫在天津北洋大学工学院毕业之后，留学美国匹兹堡大学获得了硕士学位，这读书的费用常常由蒋介石供给。所以陈立夫留学归来，蒋介石立即倚为心腹，并委以重任。调查科长虽由陈立夫亲自担任，但任期并不长。陈立夫以后高升替蒋介石看家，提任了国民党中央秘书长、组织部长、教育部长等职，但他非常明白的蒋介石的意图，对调查科乃至后来的中统局抓得非常之紧，每届领导都必须由他和陈果夫选定，才报蒋介石批准。
在蒋、陈的灌输下，调查科不仅是特务组织，首先也是个政治组织。因为蒋介石一直提倡“一个主义、一个领袖、一个组织”（这是由陈果夫首先提倡而获得蒋介石大力欣赏的）。陈立夫加以极大发挥，他认为：“信仰主义要信仰到迷信的程度，服从领袖要服从到盲从的程度、绝对的程度”，陈立夫是受过大学教育后来又留洋受到过所谓美式民主教育的知识人，却甘心情愿做特务工作并阐发出一套一套有浓厚法西斯色彩的政治理论，这不能不使人感到奇怪。其实，不光中统后来的领袖人物如张道藩、徐恩曾等是留洋的知识分子，乃至军统组织的不少头面人物，也多为表面文质彬彬的书生人物，这是很值得注意的一个现象。也许，蒋介石虽然出身青帮，但他也明白光靠喊杀喊打的杀手并不能成大事。
所以蒋介石把中统交给陈立夫，可以说这着棋并没有错。陈立夫一开始就把中统抹上了浓郁的政治色彩。
陈立夫给中统下的定义是：特务组织是国民党最核心的组织，是党的耳目；特务活动是为了保护党、国家、领袖的安全，它与党国的命运息息相关，是神圣的事业；只有最优秀（国民党）党员才有资格做特务工作，等等。
起初，调查科的宗旨应该是调查国民党党员或派系的有关情报，但蒋介石一直大声疾呼：只有共产党才是心腹大患，不彻底消灭共产党就会死无葬身之处。这个思想陈立夫心领神会，因此他一直把消灭共产党组织做为调查科的首先任务。而且，陈立夫受到蒋介石的器重和欣赏之处还在于：陈立夫并不主张只靠残酷镇压和屠杀的手段（虽然他并不反对采取暴力手段）。他认为这样做并不能彻底根除共产党的存在；他最主张破坏共产党的首脑组织和基层组织，从政治上思想上瓦解共产党，从整体上消灭共产党。这一思想体系也成为调查科及后来的中统特务工作的指导方针，并连连得到蒋介石的重视。
1928年，儘管蒋介石在人力、物力上都有困难，还是特准从他亲任校长的中央党务学校毕业生中，让调查科挑选了张国栋等10个被认为最忠实可靠效忠“总裁”的人到调查科担任骨干，这10人以后确曾成为调查科的高级干部。