对非法证据排除规则目前学术界存在着不同的理解。有人认为，不管什么人获取的证据，只要是不具备合法性都必须排除。本文作者对此有不同看法——
不符合法定形式的证据并非就是非法证据
对非法证据排除规则目前学术界存在着不同的理解。传统观点认为，只要是不具备合法性的证据都必须排除，而证据的合法性包括证据必须具备法定形式、具有合法的来源等等，不属于刑事诉讼法规定的七种形式的，不得采纳为证据，不属于刑事诉讼法规定的形式的证据是非法证据。
实际上，这是对非法证据的一个误解。非法证据排除的目的仅仅是为了确保公民基本权利不受侵犯，因此只有当一项证据的取得方式严重侵犯公民的基本权利的时候，该证据才是非法证据；其他所谓不符合“合法性”要求的证据，包括不符合法定形式的证据并非就是非法证据。在理论上应当对非法证据的概念进行严格限制，而不能作过于广泛的解释。不属于刑事诉讼法规定的证据种类的证据，只要不被证据可采性规则排除，就能够作为证据使用；非法证据只限于采用侵犯公民基本权利的方法取得的证据。如果对非法证据的定义过宽，会导致立法上难以确立非法证据排除规则。
非法证据排除原本意图：限制国家权力
非法证据排除会带来一个重要的不利影响，就是不利于案件事实的查明。一项证据即使是真实的，但是如果属于采用侵犯公民基本权利的方式收集的，就不能在诉讼中作为证据提出。如果立法上最终确立该规则，则会导致诉讼中能够使用的证据材料减少，不利于查明真实的目标，但这符合非法证据排除规则的原本意图。
非法证据排除规则的典型国家是美国。英美国家非法证据的范围主要包括两种，即违反《警察与刑事证据法》或者美国宪法第四修正案及最高法院关于搜查、扣押的判例中确立的具体规定而进行的搜查、扣押取得的实物证据，以及违反《警察与刑事证据法》或者美国宪法第五修正案及最高法院解释该修正案的判例中确立的讯问的具体规定而取得的供述证据。其根本目标是为了防止法律实施官员，特别是警察随意侵犯公民的基本权利，用排除证据的方法来惩罚警察使其将来不再用这样的手段取证。其主要价值基础是限制国家的权力，防止国家权力对公民宪法权利构成侵犯。
非法证据排除判断标准：是否有公权力的介入
如果是警察以外的人使用不合法的方法获得了证据，这种证据是否应当排除呢？按照美国理论，非法证据排除是为了对警察的非法行为进行惩罚，以消除其非法取证的动机，因而只有法律实施官员取得的证据才涉及到非法证据排除的问题。英国和日本虽然不同意将“制裁警察违法行为”作为非法证据排除的理论基础，但是也将非法证据的范围限制在警察非法取证的前提下。
我国刑事诉讼法对此没有作出规定，但在最高人民法院关于民事诉讼和行政诉讼的司法解释中，某些证据的排除并不要求警察是非法取证的主体，即排除了警察以外的私人取得的、但是侵犯公民合法权利的证据。这曾经引发了一些批评，但讨论中并没有对其理论渊源进行探讨。事实上，这种规定可以从德国的证据禁止理论中找到理论依托。1960年，德国联邦最高法院作出了“录音带案”判决，认为未经说话人同意的秘密录音侵犯了说话人的人格权，而人格自主发展的自由权是德国基本法保障的公民基本自由之一，因而裁决排除了一份秘密录音带。在其后的“日记案”中，德国联邦最高法院同样根据德国基本法中规定的“人格自主发展的自由权”排除了被告人的私人日记。
笔者认为，我国应当采纳美国、英国和日本的理论，将非法证据排除规则限定为“非法取得的证据的排除规则”，并且将非法取证的主体限于警察，而不采纳德国的证据禁止理论。理由是，非法证据排除规则的最主要目标是确保公民的宪法权利不受侵犯，警察作为国家权力的代表，是最有可能、也是最有能力侵犯公民宪法权利的主体，而公民私自获得证据不可能像侦查机关那样对公民的人身、财产、住宅构成强烈的侵犯。而且，如果排除公民不正当获得的证据，会导致诉讼中可以运用的证据大大减少，有时排除的可能是惟一的、关键性的证据，至少是证明力很强的证据，不利于诉讼的进行和案件事实的查明。因此，判断一项不合法取得的证据是否应当排除的标准是是否有国家权力的干预，如果非法取证活动有警察的介入，则应当排除。应当注意的是，如果公民以非法方法获得了证据，虽然该项证据可以在诉讼中使用，但其非法行为将依法被追究法律责任。
在具体规定上，首先，对于警察采用刑讯逼供和以威胁、引诱、欺骗等方法取得的犯罪嫌疑人、被告人的供述、证人证言、被害人陈述，不具有可采性。其次，对于实物证据，如果取得的程序违反了令状主义的要求，应当强制予以排除（笔者主张在中国确立令状主义，即侦查机关在搜查、扣押、拘留、逮捕以及采用秘密侦查手段之前，必须获得法官签发的令状的准许才能进行。在确实情况紧急，来不及申请签发令状的情况下，侦查人员可以先实施该强制手段，然后请求法院加以确认）。对于违反刑事诉讼法其他程序性规定取得的实物证据，由法官根据具体违法情形自由裁量是否采纳。
