CN1716293B - 增量反垃圾邮件查找与更新服务 - Google Patents

增量反垃圾邮件查找与更新服务 Download PDF

Info

Publication number
CN1716293B
CN1716293B CN2005100822825A CN200510082282A CN1716293B CN 1716293 B CN1716293 B CN 1716293B CN 2005100822825 A CN2005100822825 A CN 2005100822825A CN 200510082282 A CN200510082282 A CN 200510082282A CN 1716293 B CN1716293 B CN 1716293B
Authority
CN
China
Prior art keywords
twit filter
new
twit
filter
characteristic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN2005100822825A
Other languages
English (en)
Other versions
CN1716293A (zh
Inventor
D·M·黑佐尔
E·E·莫菲
G·J·胡尔藤
J·T·古德曼
R·L·朗斯威特
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of CN1716293A publication Critical patent/CN1716293A/zh
Application granted granted Critical
Publication of CN1716293B publication Critical patent/CN1716293B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management
    • G06Q10/107—Computer-aided management of electronic mailing [e-mailing]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/21—Monitoring or handling of messages
    • H04L51/212—Monitoring or handling of messages using filtering or selective blocking

Abstract

本发明提供一种便于几乎实时或实时地增量更新垃圾邮件过滤器的独特系统与方法。增量更新可部分地通过差异学习来生成。差异学习涉及基于新数据来训练一新垃圾邮件过滤器，然后寻找该新垃圾邮件过滤器和现有垃圾邮件过滤器之间的差异。差异可至少部分地通过比较参数变化的绝对值(两个过滤器间特征的权重变化)来确定。也可使用诸如参数频率等的其他因素。此外，关于特定特征或消息的可用更新可使用一个或多个查找表或数据库来查找。例如，当增量和/或特征专用更新可用时，它们可由诸如客户机下载。增量更新可被自动提供，或可依照客户机或服务器的偏好根据请求来提供。

Description

增量反垃圾邮件查找与更新服务
(1)技术领域
本发明涉及识别合法邮件(例如好邮件)和不受欢迎的信息(例如垃圾邮件)的系统与方法，尤其涉及在消息处理过程中向现有的经训练的垃圾邮件过滤器提供几乎实时或实时的更新。
(2)背景技术
诸如因特网之类的全球通信网络的出现提供了与大量潜在顾客建立联系的商业契机。电子消息，尤其是电子邮件(“e-mail”)，作为向网络用户散布不需要的广告与促销(也称“垃圾邮件”)的手段，正变得越来越普遍。
Radicati集团有限公司—一家咨询与市场研究公司，估计到如在2002年8月，每天有20亿垃圾电子邮件消息被发送—此数字预期每两年增至三倍。个人与企业(例如公司、政府机构)感觉日益不便，并时常不胜垃圾邮件之烦。同样地，垃圾电子邮件如今或即将成为对于可信计算的一种主要威胁。
一种用于阻碍垃圾电子邮件或兜售信息的关键技术是使用过滤系统和/或方法。然而，垃圾邮件发送者为了规避过滤器而不断地改变他们的技术。因而期望能随垃圾邮件发送者技术改变而迅速并自动地更新过滤器，并将其传播到由消息客户机和/或服务器运行的终端应用程序。
例如，可能有大约1亿个消息通信程序的副本正被客户机使用。此外，每天都能创建出新的垃圾邮件过滤器。因为垃圾邮件过滤器可能相当大，且可能需要每天将其分发到运行该过滤器副本的每一客户机，在客户机方和过滤器供应者方，这一实行即使不是被禁止的，也是有问题的。尤其是，可能要求客户机经常下载大文件，因而消耗了大量处理器内存，并降低了处理速度。因为过滤器供应者可能必需每天为所有用户和/或客户机更新该过滤器的所有副本，因此可能需要的带宽和服务器是极大量且不可行的。在此类情况下，比每天一次更频繁地提供新过滤器如果不是完全不可能，也是几乎不可能的。
(3)发明内容
为了提供对于本发明某些方面的基本理解，下文提出了本发明的简化概述。此概述不是本发明的广泛综览。它不试图标识本发明的关键/决定性元素，或描绘本发明的范畴。它唯一的目的是以简化的形式提出本发明的某些概念，作为将于后文提出的更详细描述的序言。
本发明涉及一种便于以实时或几乎实时的方式向垃圾邮件过滤器提供局部或增量更新形式的新信息或数据的系统和/或方法。提供一种可用最新信息更新过滤器的几乎实时的机制可以是提供对抗到来的垃圾邮件攻击的最有效保护的一种策略。
具体地，本发明涉及向现有过滤器传递信息的增量部分，以便于保持过滤器对于新的好消息和/或新的垃圾邮件是最新的。这部分地可通过差异学习来达成，其中可将现有过滤器的一个或多个参数与新过滤器的相应参数进行比较。显示某些改变的参数可被相应地更新，从而减轻了替换整个过滤器的每一个副本的需要。因而，可发送现有过滤器和新过滤器间的“差异”来更新现有过滤器。结果，每个更新的大小可以相对较小甚至更小，取决于更新的频率。这部分地归功于下面事实：更新的信息主要基于新的好消息或新的垃圾邮件；并且每小时只收到这么多垃圾邮件或好的消息。因而，在任意给定时帧内进行同样多次的更新在对抗垃圾邮件的斗争中变得相当高效且有效。
根据本发明的一个方面，增量更新部分地可由服务器来确定。服务器可决定更新其过滤器的哪些部分、获得这些更新、随后将其提供给决定参与或付费接收它们的用户或客户机。
根据本发明的另一方面，增量更新部分地可由用户或客户机经由基于web的服务来确定。具体地，客户机可收到一消息，其当前过滤器在将该消息分类为垃圾邮件或好的邮件时存在困难。基于web的服务可提供一查找表或数据库，该查找表或数据库包括关于新近被确定为指示好的消息或垃圾邮件的消息或消息特征的数据或其他信息。通过从该消息中提取某些信息，客户机可查询该基于web的服务，来确定对于其过滤器是否存在任何更新的信息。
例如，客户机收到一消息，且该客户感到难以将其分类为垃圾邮件或是好的邮件。该客户机可提取该消息的某一部分，诸如发送者的IP地址、消息中的URL、或该消息的散列，来向基于web的查找服务请求更新的信息。在一实例中，可向基于web的服务提交一查询。可选地或另外地，客户机可参考由查找服务用当前信息构建并维护的一个或多个查找表或数据库。当找到至少一个更新时，可相应地更新该客户机的过滤器。如果服务确定客户机需要一系列更新，则服务可仅提供最新的更新，来减少需要下载的更新总数。
在任意给定垃圾邮件过滤器上可以有数以千计的可更新的不同参数。由于这些过滤器的特性，对一个参数值的一个小改变可引起几乎所有参数的值的某种改变。因而，可有各种方法来确定要更新过滤器的哪些部分，以提供最有效的垃圾邮件保护。在本发明的一个方面，可以检查参数变化的绝对值。可选择显示值的最大变化的参数来更新。或者，可设置一阈值变化量(例如基于绝对值)。可标记超出该阈值的任何参数来进行更新。也可考虑诸如在到来的消息中的参数或特征的频率等其他因素。
在本发明的另一方面，增量更新可以是特征专用的，并以服务器或客户机偏好所期望的速度发生。此外，可构建过滤器来使旧过滤器与新过滤器间的参数变化数量最小化。因而，任何一次过滤器更新(例如数据文件)的总的大小，及要更新的参数个数可比其他情况下小得多。
为达成前述及相关目的，此处结合以下描述与附图，描述了本发明的某些说明性方面。但是，这些方面只是示意可使用本发明原理的各种方法中的几种，并且本发明旨在包括所有此类方面及其等效方面。当结合附图考虑时，从以下本发明的详细描述中，本发明的其他优点与新颖特征将变得显而易见。
(4)附图说明
图1是根据本发明的一个方面的反垃圾邮件更新系统的框图，该系统便于向垃圾邮件过滤器提供机器学习的更新。
图2是根据本发明一个方面的增量更新系统的示意性框图。
图3是一示意图，它根据本发明的一个方面展示了用于生成具有限数量参数变化的垃圾邮件过滤器或其更新的系统或机制。
图4是根据本发明一个方面的反垃圾邮件更新系统的框图，该系统至少部分地基于客户机请求。
图5是根据本发明一个方面的反垃圾邮件更新系统的框图，该系统至少部分地基于客户机请求。
图6是根据本发明一个方面的示例性反垃圾邮件查找web服务的示意图。
图7是根据本发明的一个方面示出一示例性方法的流程图，该方法便于至少增量地更新垃圾邮件过滤器。
图8是根据本发明的一个方面示出一示例性方法的流程图，该方法便于生成呈现与前一过滤器的最小数量的更新或改变的过滤器。
图9示出了用于实现本发明各个方面的示例性环境。
(5)具体实施方式
现参考附图对本发明进行描述，贯穿附图，相同的参考标号指相同的元素。在以下描述中，出于解释的目的，阐述了大量具体细节以提供对本发明的彻底理解。然而，明显的是，无须这些具体细节即可实施本发明。在其他实例中，为了便于描述本发明，以框图形式示出众所周知的结构与设备。
如在本申请中所使用的，术语“组件”与“系统”意指计算机相关实体，它或者是硬件、硬件与软件的组合、软件或执行中的软件。例如，组件可以是，但不限于，运行在处理器上的进程、处理器、对象、可执行码、执行线程、程序及计算机。作为示例，运行在服务器上的应用程序和该服务器都可以是组件。一个或多个组件可以驻留在进程和/或执行线程内，且组件可以位于一台计算机上和/或分布在两台或多台计算机之间。
本发明可结合各种关于向机器学习或非机器学习垃圾邮件过滤器至少提供局部或增量更新的推断方案和/或技术。如本文中所使用的，术语“推断”一般指根据一组经由事件和/或数据捕捉到的观测，来推理或推断系统、环境和/或用户状态的过程。例如，推断可用于标识一特定上下文或行为，或可生成各状态的概率分布。推断可以是概率性的——即，基于对数据和事件的考虑对所关注的状态概率分布的计算。推断也可指用于从一组事件和/或数据中组成更高级事件的技术。此类推断导致从一组观测到的事件和/或存储的事件数据中构造新的事件或行动，而无论这些事件是否在时间上密切相关，也无论这些事件和数据是否来自一个还是数个事件和数据源。
本发明的各个方面可应用于机器学习和非机器学习过滤器。在一普通实现中，机器学习垃圾邮件过滤器通过使用一种机器学习算法来计算从消息中提取的各个特征的权重，从而获知什么是好的消息和垃圾邮件的特征的定义。当一主机应用程序收到一消息时，可对该消息流进行语法分析，并检查被强调为垃圾邮件或好消息指示符的特征或特性。随即组合这些被强调的特征，以生成该消息是否为垃圾邮件的总概率。如果消息满足一特定概率“阈值”，那么该消息可基于主机应用程序的设置采取一道所分配的行动。例如，好消息可被引导到收件人的收件箱，而垃圾邮件消息可被路由到一特殊文件夹或被删除。
垃圾邮件发送者在不断改编他们的方法。通过以前的反馈循环和机器学习技术，可自动且容易地生成新的过滤器。然而，有效率地向其用户迅速地(诸如实时或几乎实时地)传播这些新过滤器可以是同样重要的。新过滤器的传播可分解成两部分。第一部分涉及大小的问题。被传播的过滤器可以很大，且难以作为整体来容易地分发。幸运的是，这可至少部分地通过经由一查找系统发送旧过滤器和新过滤器间的“差异”来克服。如下文将讨论的，差异可根据大量因素和/或偏好(客户机或服务器)来确定和/或基于这些因素和/或偏好。
第二个问题涉及过滤器更新的管理。在一方面，许多人可能希望包括新代码和新数据在内的对垃圾邮件过滤器所有改变可被自动传播。在另一方面，许多管理员可能希望在自动传播到其整个组织之前先在测试机器上安装新文件和/或数据。如在下面的图中所讨论的，通过经由在线查找服务仅将有差异的特征(权重)传递到存储器，可以减轻传播大过滤器的需要。
现参考图1，有一根据本发明的一个方面的反垃圾邮件更新系统100的概括性框图，该系统便于向旧的或现有的垃圾邮件过滤器提供差异信息。系统100包含测试消息接收组件110，该组件使用至少一个垃圾邮件过滤器120来将到来的测试消息分类为垃圾邮件或好的邮件。测试消息接收组件110可位于第三方客户机或服务器(例如，家用计算机)中。可使用SVM(支持矢量机)、最大熵模型(逻辑回归)、感知器、决策树和/或神经网络中的任一种对垃圾邮件过滤器120进行特殊训练。
系统100还包含可接收各种训练消息的训练消息接收组件130。例子包括反馈循环数据(例如，来自参与对到来的消息中至少一被选择的部分进行分类(垃圾邮件或好的邮件)的用户的数据)、用户抱怨、蜜罐(honeypot)数据等等。训练消息接收组件130可在过滤器供应者处找到。
到来的训练消息的至少一部分可被路由到特征分析子系统140，在那里对这些消息进行语法分析，并检查其类似垃圾邮件和/或非类似垃圾邮件的特征。具体地，诸如IP地址、URL和/或特定文本等多个特征的特征可从每个消息中提取出来，随即被分析。使用机器学习组件150，可用有区别的方法来训练更新组件160。或者，可使用基于匹配或散列的数据来训练更新组件160。被路由到特征分析子系统140的消息可以是未经过滤的或已过滤的消息，或者是两者的组合。将已过滤的消息分类为垃圾邮件或好邮件无需影响更新组件160的训练，或对垃圾邮件过滤器120的更新的产生。
更新组件160包含诸如为多个消息和/或可从到来的消息中提取的特征(诸如单词、IP地址列表、主机名、URL等等)计算的权值之类的数据。此类数据可被组织成由更新组件160控制的一个或多个数据文件或者数据库。
当由消息接收/分发系统(例如，一个或多个服务器)110提示时，更新组件160可用附加信息至少增量地增加垃圾邮件过滤器120的至少一部分。例如，通过添加新的特征权重数据和/或用任何给定特征的新权重数据取代旧权重数据，更新组件160可更新垃圾邮件过滤器的数据部分。更新组件160还可被定制成在定时或调度的基础上提供增量更新(如果可用的话)，从而将任一更新的相对大小最小化。更新本身也可以在定时基础上，或在收到的到来消息个数的基础上生成。例如，每小时和/或每接收到第30个消息后，可创建更新。
现参考图2，示出了一便于防止垃圾邮件的反垃圾邮件更新系统200的示意性框图。概括而言，更新系统200将新参数数据与由现有垃圾邮件过滤器210所使用的旧参数数据进行比较。系统200包含特征提取-分析组件220，该组件可检查从到来的消息中提取的特征，以识别相关特征(例如，指示垃圾邮件或好的消息)并确定其权重、得分及其他相关数据。此数据可在参数更新数据库230中存储及维护。可由参数分析组件240根据现有过滤器210中的旧参数数据来分析数据库中的新参数数据，从而确定是否有任何参数数据改变了。
例如，参数的权重可升高或降低，以指示更重要或更次要的垃圾邮件特性。此外，可向现有过滤器210添加或删除参数。在后一情况中，当其权重跌至0，参数或特征可从过滤器210中移除。
如果确定对于任何特定参数集或子集存在更新，则此类参数可被传递给更新控制器250。更新控制器250可从数据库230访问相关参数数据，并能随即将此类数据传递给现有过滤器210。本质上，系统200向垃圾邮件过滤器提供一种更新服务，来保持它们对于新形式的垃圾邮件是最新且有效的。
更新系统200可在客户机或服务器上自动运行。此外，该服务可通过订购来起作用，其中支付确认组件260可在提供任何更新前确定客户机或服务器是否已为更新或更新服务付款。或者，在允许查找或更新发生之前，过滤器210可核实该订购是最新的。
更新查找系统(例如在图1和2中)可以是服务拒绝(DOS)或分布式DOS攻击的天然目标。因而可通过诸如将其遍及多个IP地址或对应于不同IP地址的多个主机名分布，来加强系统对抗此类攻击的能力。例如，在实践中，可将不同IP地址分发给不同用户(或客户机或服务器)，从而使攻击者更难找出要攻击的IP地址的完全列表。
有了机器学习技术，可有数以千计的可被更新的不同数字参数，因为实质上所有这些参数至少可作少量改变是可能的。结果，确定要作出什么更新可用数种不同的方法来决定。例如，一种方法涉及查看改变最大的参数的绝对值。然而，最大绝对值变化可能不是最能指示要更新哪些参数的。这在参数涉及很少被观测的特征的情况下尤其真实。因而，当确定要更新哪些参数时要考虑的其他因素可包括事件的发生、频率、或基于最新近数据的参数的共性。例如，如果参数改变很大，但对应特征仅在很少的消息中出现(例如，平均每100,000个消息中仅有3个)，那么发送对此特征的更新可能不是对更新服务的有效使用。
另一方法涉及查看参数的绝对值，该参数改变了某个使其变得重要的量(例如，改变了某个最小值或阈值)，或者对于更普通的特征来说，改变了某一与较不普通的特征不同的最小值。如果满足一特定阈值，那么可更新参数。否则它保持不变。
又一方法涉及构建试图限制参数改变的数量的过滤器或过滤器更新。一些被称作平衡特征的特征可彼此交互，并最终影响过滤器的行为。在训练期间，当没有在过滤器内恰当地虑及平衡特征时，该过滤器的性能可被改变。因而，构建限制参数改变数量的过滤器也可减轻跟踪是否恰当地虑及了平衡特征的需求。
例如，设想当前使用的过滤器A，对于单词“wet”有假定为0的权重，对于单词“weather”有一为负的很小权重。现在设想有包含单词“wet”(而不是weather)的大量垃圾邮件到来。设想还有同时包含单词“wet”和“weather”的适量的好邮件。可学习新过滤器B，它将“wet”加权为严重类似垃圾邮件，而“weather”有一平衡性的负(好)权值，因而当这些单词同时出现时，它们的权重抵消，且该邮件不被分类为垃圾邮件。现在可能能够判定，与过滤器A相比，在过滤器B中的单词“wet”足够重要而要为其更新权重(它在大量邮件中出现)，而单词weather则不然(它在少量邮件中出现，且作少量改变，因为它已经有一为负的很小权重)。因而，可传播对“wet”的更新，但无需传播对“weather”的平衡性更新，从而导致大量错误。为缓解此类不合需要的更新的创建，可构造将参数改变数量最小化的过滤器，如图3所示。
根据该图，从包含旧数据的特征和权重的旧过滤器X310开始。现使用机器学习训练新过滤器Y1320。根据某些试探330找到X310和Y1320之间重要的差异。例如，可测量该差异的绝对值；从该差异中得到的信息；该差异的绝对值乘以使用该参数的频率；等等。在线性模型的情况下(例如，SVM模型、单纯贝叶斯模型、感知器模型、最大熵或逻辑回归模型)，模型由特征(例如，消息中的单词)的权重组成。对于线性模型，这包括寻找根据这些度量之一改变最多的特征权重(340)。
接下来，可学习新过滤器Y2 350，它服从下面约束：过滤器间的所有小的(或不够重要的360)差异在Y2 350中必须有和在X310中相同的值。例如，对于线性模型，这意味着非改变很大的特征的权重在Y2 350和在X310中是相同的。然而，对于改变很大(例如，满足某一阈值或试探)的特征，在Y2 350中的权重不同。参考之前“wet”和“weather”的例子，当“wet”被认为是坏的，它不能被认为是太坏的词，因为其平衡权重(“weather”)将被固定。因而不再需要跟踪是否虑及平衡性特征。
可任选地，此程序可被反复，以找出仅其权重一向不同的那些特征。例如，因为“weather”参数值不能改变，可决定不改变“wet”参数值。
此外，可使用对Y2 350的更新代替对Y1320的更新来更新过滤器。Y2 350和X310间的差异比Y1 320和X310间的差异小，因为该模型的许多部分被强制不变。
另一种技术是仅更新数据的一部分，诸如改变较快的部分，或对模型有较大影响的部分。例如，IP地址和URL数据可能比文本数据改变更快(或更慢)。此外，将这些特征独立于其他特征来训练可能较简单(见例如于2004年3月25日提交的美国申请第10/809,163号，题为Training Filters for IP Addressand URL Learning(为IP地址和URL学习训练过滤器))。因而，可构建一模型，它保持某组特征不变，而允许其他特征改变。
此外，通过选择性地更新特征的一个子集(例如，至少一个独立于其他的特征)，对该模型的未来更新可更容易地完成。此类模型的一个例子是决策树，其中每个叶节点包含一独立模型，该独立模型可与其他叶节点处的模型相分离地更新。研究发现，这些模型能和当前构建的模型有同样数量的特征，但总体上有更好的性能。
存在其他设计先验模型的方法，使之具有在模型构建时相互之间不允许、或不被允许对权重进行平衡的特征子集，包括通过将各特征类聚成相关的组群，或通过其他机制，来任意地划分特征空间。或者，如在决策树中，例如可通过将消息类聚成相关组群来划分消息(在该情况下，如同在决策树的情况下，在不同聚类中可有具有不同权重的重复特征，但它们可被独立更新)。
增量更新也可至少部分地通过分发客户机、服务器、或用户接收到的消息的来确定——更新的特征首先集中在那些适用于特定顾客(服务器或客户机)所收到的最多的消息的特征。因而，举例来说，多个客户机可依照它们收到的消息类型，来接收对其过滤器的不同更新。
一旦确定了更新的类型，管理垃圾邮件过滤器的更新可以是具有挑战性的。消息系统管理员常常或有时有兴趣知道他们的用户在使用什么软件，包括数据文件。在某些情形下，管理员甚至可能希望他们所有的用户运行同样的数据，或者在他们有机会在中意的或合意的环境中测试新数据文件之前，他们可能不希望分发这些新数据文件。因而，他们可能不希望用户直接与更新服务通信。
例如，在一情景中，在发送特定文件给用户前，管理员宁愿先下载这些特定文件，并彻底检验它们的可操作性、与其他系统文件的冲突，等等……。因而促进一种两阶段传播是合乎需要的，其中数据或代码的更新首先被发送给管理员，然后传播给用户。在某些情形下，管理员可以已经信任过滤器供应者，并可能更喜欢无须验证的完全自动的查找程序。
应当理解，此查找或更新服务可要求代码，以在电子邮件客户机或服务器上运行。并且，查找或更新可以调度的时间间隔执行，该时间间隔可由终端用户或管理员指定。或者，可以在某些事件发生时执行查找或更新，诸如当启动或打开消息通信程序时。当一更新可用，可通知终端用户或管理员(例如，更新是可任选的)，或者更新可以是自动的。可以给予终端用户或管理员这些选项间的选择。最后，对垃圾邮件过滤器的更新可以即时发生并生效，甚至无须重新启动该消息通信程序。
如所讨论的，对垃圾邮件过滤器的更新可以至少是增量的，其中垃圾邮件过滤器最有用或最期望部分被更新，而剩下的部分保持不变，从而将更新和与其相关联的有关数据文件的大小最小化。在大多数情况下，服务器负责确定进行哪些更新、何时进行此类更新、和/或进行此类更新的方式。不幸的是，服务器在作出此类确定时可能很迟缓，或者此类更新的定时或内容可能与客户机或用户的过滤需求略为不重合。对客户机来说，任一情况都可能有问题，尤其是当现有垃圾邮件过滤器对特定消息的分类不确定，且客户机无法承受更久的延迟来等待服务器提示的更新时。
在图4中，描绘了查找服务系统400的示意性框图，该系统允许在垃圾邮件过滤器正被客户使用时对其进行更新。查找服务系统400可类似于上述图1中的更新系统100，尤其是在关于生成某类更新数据，以向垃圾邮件过滤器进行几乎实时或实时的更新方面。然而，此外，查找服务系统400可经客户机或终端用户的请求，而不是只经由服务器指令，向垃圾邮件过滤器提供更新。
根据该图，到来的测试消息可被传递到测试消息接收组件410，该组件使用至少一个垃圾邮件过滤器420以便于将消息分类为垃圾邮件或非垃圾邮件。测试消息可帮助确定在给定当前参数组时，垃圾邮件过滤器420的准确度。测试消息接收组件410可位于第三方服务器或客户机上。垃圾邮件过滤器420可以是机器学习训练的或是非机器学习训练的。
更新学习可以如下执行：到来的训练消息的至少一部分可经由训练消息接收组件(位于过滤器供应者上)435被路由到特征分析系统430。该特征分析系统430可基于从训练消息的至少一部分中提取的各特征及其相应的权重，来生成最新近的数据，并将其存储在查找数据库440中。
因为垃圾邮件发送者不断改编和/或修改其垃圾邮件，可能有一部分无法由现有垃圾邮件过滤器420分类为垃圾邮件或好邮件的消息。客户机可标记此类消息，并随即向查找组件450发送一基于该消息、该消息的散列、和/或该消息的一个或多个特征的查询或请求。
如果来自查找数据库的任何数据满足该请求，那么此类对应信息可被发送或下载，以更新垃圾邮件过滤器420。然后，可对不确定消息和任何新消息应用更新了的垃圾邮件过滤器，来帮助该分类过程。
现转到图5，示出了在线查找系统500的示意图，该系统便于由客户机510使用的基于web的更新服务。设想使用用“旧”数据训练的现有垃圾邮件过滤器来分类到来的消息515。不幸的是，客户机现有的过滤器在确定某些消息是垃圾邮件还是好邮件时感到困难。客户机510可采取消息515或某个从中提取的特征，诸如IP地址520、URL525、主机名530或任何其他特征535，并查询在线查找系统500，而不是隔离消息515或等待服务器提示更新到来。在线查找系统500可由一个或多个查找表540和/或一个或多个数据库545组成。查找表540可包括对每个特征的更新数据550——诸如每个IP地址555。如果客户机对消息的IP地址执行查询，那么可在适当的查找或更新表中查找该IP地址。
类似地，对于属于IP地址520的任何更新，可以参考或搜索数据库545。数据库545也可按每个更新的特征排列—诸如每个IP地址520。为控制表或数据库的大小，分别在查找表和数据库中只能提供具有更新的信息的特征。然而，实质上具有所有特征或参数、而无论其权重或值是否改变的查找表和/或数据库也是可用的。不管表和数据库的排列如何，如果找到一更新，它可被直接发送到客户机或由其下载，以更新垃圾邮件过滤器。因而，对垃圾邮件过滤器的更新可以基于客户机偏好，且可按需发生。
如果服务器或客户机上的消息通信系统还没有收到所有以前的更新，可能需要查找一个以上系列的特征或更新。该系统可从最后记录的查找起执行查找，然后按照顺序应用它们。可任选地，更新服务器可将多个查找文件合并在一起，来提高下载的效率。最后，更新也可通过诸如HTTPS等安全信道发生。
对较新数据的增量查找可被写入文件或被存储在磁盘上，随后在存储器中组合。此外，增量更新可指明不再需要模型的某个部分、特征或参数(例如，权重为O)，因而允许将其删除，并节省存储器或磁盘空间。
现参考图6，示出了依照本发明一个方面的反垃圾邮件查找基于web服务的示例性体系结构600。体系结构600包含多个层，举例来说，诸如数据层级层(或后端数据库)，它容纳特征子集及在训练中生成的相关联的权重和模型；中间件层，它在数据库和垃圾邮件过滤器间传递信息；以及以预定或自动频率调用中间件层，来获取最新更新的模型并将在线模型与本地存储的模型文件合并的垃圾邮件过滤器。
更具体地，数据层级层容纳2个存储：训练存储(TrainStore)的副本610(用于标准训练)及更新存储(UpdateStore)620。这些存储可以是平面文件或数据库。专用训练存储610可任选地仅容纳受益于频繁更新的特征子集的特征和权重。更新存储620是一新数据库或平面文件组，包括了由来自专用训练存储610的信息子集所产生的二进制形式的模型输出，以及所部署的产品关联的一些新变量。此信息子集可包括：
·包含很大程度受益于更频繁更新的特征的新模型；
·这些特征的例子包括URL特征、IP特征及新的特别特征；
·新概率模型对于所部署的模型文件的较早版本的的关系；和/或
·用于将新模型传递大小最小化的新模型的增量更新。
中间件层630可担当更新存储620和垃圾邮件过滤器.d11文件间的接口。它展现了在垃圾邮件过滤器和在线查找服务间来回传递信息的web服务接口和功能。它可以是SOAP服务、HTTP服务、HTTPS服务或其他因特网服务。
当结合某些其他垃圾邮件相关系统和方法时，该反垃圾邮件查找服务尤其强大。特别地，当结合消息隔离时它可以格外强大。在消息隔离中，某些消息可被放到一垃圾邮件文件夹或一隔离文件夹，或者暂时另保存在一边。在垃圾邮件过滤器更新后它们被重新评分。诸如“报告垃圾邮件按钮”等技术也可为垃圾邮件过滤器更新产生重要数据，在该技术中用户向中央知识库报告垃圾邮件消息。此外，在诸如蜜罐等技术中，发送到某些决不应收到消息的账号(例如新近创建的未启用账号)的数据对于垃圾邮件过滤器更新来说是有价值的消息来源。此外，在反馈循环中，由用户投票决定某些消息是好消息还是垃圾邮件。这为更新垃圾邮件过滤器提供了有价值的数据。因为该数据是相对无偏见的，它可比报告垃圾邮件或蜜罐数据更有用。
现在将经由一系列动作来描述依照本发明的各种方法，必须理解和明白，本发明不受各动作次序限制，因为依照本发明，某些动作可按不同顺序发生，和/或与本文示出及描述的其他动作同时发生。例如，本领域技术人员会理解并明白，方法可被替换地表示为诸如在状态图中的一系列相互关联的状态或事件。此外，并非所有示出的动作是实现依照本发明的方法所必需的。
现参考图7，示出了示例性垃圾邮件过滤器更新程序700的流程图，它便于在使用过程中至少对垃圾邮件过滤器进行几乎实时的更新。程序700涉及在710诸如通过机器学习技术，用新的或较新近的数据来训练位于新过滤器。可在多个消息特征及其相关联的权重上特殊地训练新过滤器。特征的一些例子包括任何IP地址、URL、主机名或可从消息中提取的任何单词或文本。
在720，程序700可查找新过滤器和旧过滤器(在旧数据上训练的)之间的差异。在730，找到或检测到的任何差异可被存储为一个或多个单独的数据文件。
可任选地，数据文件可存储于数据库中，和/或其中包括的内容可被编排到一个或多个查找表中。可经由一基于web的查找服务使这些数据文件对客户机可用。尽管未在图中描绘，客户机可查询该查找服务，来确定特定更新是否可用——对用其现有垃圾邮件过滤器无法分类的消息或来自消息的特征。如果更新可用，则客户机可选择下载其希望的更新，来部分地或增量地更新现有垃圾邮件过滤器。
再参考图7，在740，可用一个或多个数据文件来更新旧的垃圾邮件过滤器。因而，该旧过滤器用显示足量改变的数据进行增量更新，而不是用一全新的过滤器取代旧过滤器。
举例来说，在实践中，可以比较新旧过滤器间的参数的绝对值。可设置一改变阈值。当任一参数的绝对值改变满足该阈值，那么可将此改变保存到一更新组件或数据文件。诸如消息中参数的频率之类的其他因素可能影响在特定“改变”是否包括在更新中。更新可作为数据文件存储、可编排到查找表中、和/或可保存到可搜索数据库中。
此外，更新请求可由服务器和/或个别客户机做出。例如，服务器管理员可检查到来的消息及其过滤，并基于各种因素确定需要特定更新，这些因素诸如，观察到关于某些消息的越来越多的用户抱怨，和/或隔离中的消息数量或相似度的增加。为解决这些范围的问题，服务器可至少部分地请求增量过滤器更新。从而这些更新将应用于服务器方，随即应用于个别客户机。
相反，客户机可直接请求，甚至访问增量更新数据。掌握特定的可疑消息，或来自可疑消息的特征，客户机可经由在线查找表或数据库查询此特定消息或来自该消息的特征是否有与其相对应的任何更新。然后相关的更新(如果有的话)可被下载到该客户机，并应用于该客户机的过滤器。服务器或其垃圾邮件过滤器不受这些更新的影响。因而，至少部分地基于其接收的特定类型的消息，客户机能定制或个人化对其垃圾邮件过滤器的更新的内容。此外，向更新或查找系统查询更新近的数据会比在整个隔离过程中从头到底地等待要来得快。此外，旧过滤器可部分地被增量更新和/或部分地由查找服务/系统更新。
垃圾邮件过滤器可训练数以千计的参数——每个参数都有一与之相关联的值。对一个参数的小量改变可导致所有其他参数至少小量的改变。因而，某种程度上，在各参数之间有大量“差异”或改变是可能的。为将改变的数量及过滤器更新的总大小最小化，可使用图8中所示的示例性程序800。程序800的结果是，对于过滤器的更新可集中于新旧数据间较显著且有意义的改变。
如图中所示，可在810用从新或最近接收到的消息中提取的数据来训练第一过滤器(例如过滤器K)。机器学习技术可用于这一训练。例如，在820，至少部分地基于一次或多次试探，新过滤器K和旧的或现有过滤器(当前使用中的)之间的差异可被分离出来。例如，在830，可比较特征权重，且可确定差异的绝对值。消息中改变的特征或参数的频率也可被考虑。也可使用许多其他的试探。此外，可配置一个或多个阈值，并将其与差异的绝对值进行比较。也可对每个特征确定阈值，来虑及好的和/或垃圾邮件消息中各个特征的频率或发生率。例如，可为在好或坏消息中都较少出现的特征设置较低的阈值。
在840，可训练第二过滤器服从以下约束：过滤器J和K之间所有小的(或不足够大到满足阈值或试探)差异可有如其在过滤器J中所具有的同样的值。因而，这些特定特征的权重在该第二新过滤器中可保持不变。在850，可找到旧过滤器J和第二新过滤器Q之间的差异。满足一个或多个阈值或试探的这些差异可存储在一更新数据文件中。因为第二新过滤器Q中的许多特征被强制有与旧过滤器J中相同的值，在这两个过滤器之间较少数量的改变是显然的。因而，该过滤器更新较小。随即在860，旧过滤器J可被更新。
或者，旧过滤器数据的一部分可被更新。例如，可以仅检查并更新IP地址或URL数据——独立于任何文本相关特征。一般而言，可按顺序应用各更新，特别是在当服务器或客户机已有一段时间没有连到因特网，且目前需要多个更新的情况下。每个更新可被下载，随即按顺序应用。相反，可以分析并合并必需的更新，来减小更新的总体大小。例如，从服务器最后一次更新以来，一权重可能已经改变了若干次。最后且最近的权值可被应用，其他“中间”值可被忽略，而不是用该权值的每个改变来更新过滤器。因而，产生较小或较少的更新。
增量更新的存储取决于特定服务器或客户机可以是灵活的。例如，更新可被存储在单独的文件总，随后与一原始(过滤器)文件合并。然而，更新文件可在使用后不久即被丢弃。因此，可维护一基础过滤器文件，然后最新近的差异可在中途确定。有时，一些特征最后以O权值告终。这些特征可从过滤器中删除以节省空间。
为了给本发明的各方面提供附加环境，图9和接下来的讨论旨在提供关于其中可实现本发明各方面的合适的操作环境910的简明、概括的描述。尽管本发明是在计算机可执行指令(诸如由一个或多个计算机或其他设备执行的程序模块)的一般上下文中描述的，然而本领域技术人员会意识到，本发明也可结合其他程序模块来实现和/或被实现为硬件和软件的组合。
然而，一般而言，程序模块包括执行特定任务或实现特定数据类型的例程、程序、对象、组件、数据结构等等。操作环境910只是合适操作环境的一个例子，并非意图对本发明的使用范围或功能提出任何限制。其他可适用于本发明的公知的计算机系统、环境和/或配置包括，但不限于，个人计算机、手持或膝上设备、多处理器系统、基于微处理器的系统、可编程消费者电子设备、网络PC、微型计算机、大型计算机、包括上述系统或设备的分布式计算环境，等等。
参考图9，用于实现本发明各方面的示例性环境910包括计算机912。计算机912包括处理单元914、系统存储器916及系统总线918。系统总线918将包括但不限于系统存储器916的系统组件耦合到处理单元914。处理单元914可以是任何可用的处理器。双微处理器或其他多处理器体系结构也可用作处理单元914。
系统总线918可以是若干种总线结构中的任意一种，包括存储器总线或存储器控制器、外围总线或外部总线、和/或使用任一各种可用总线体系结构的局部总线，这些体系结构包括但不限于，11位总线、工业标准体系结构(ISA)、微通道体系结构(MCA)、扩展的ISA(EISA)、智能驱动器电子设备(IDE)、VESA局部总线(VLB)、外围部件互联(PCI)、通用串行总线(USB)、高级图形端口(AGP)、个人计算机存储卡国际协会总线(PCMCIA)、及小型计算机系统接口(SCSI)。
系统存储器916包括易失性存储器920和非易失性存储器922。包含例如在启动期间在计算机912内部各元件间传送信息的基本例程的基本输入输出系统(BIOS)存储在非易失性存储器922中。作为示例而非限制，非易失性存储器922可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除ROM(EEPROM)或闪存。易失性存储器920包括担当外部高速缓存存储器的随机存取存储器(RAM)。作为示例而非限制，RAM可有多种形式，诸如同步RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDR SDRAM)、增强型SDRAM(ESDRAM)、同步链路DRAM(SLDRAM)、及直接存储器总线RAM(DRRAM)。
计算机912还包括可移动/不可移动、易失性/非易失性计算机存储介质。例如，图9示出磁盘存储924。磁盘存储924包括但不限于，如磁盘驱动器、软盘驱动器、磁带驱动器、Jaz驱动器、Zip驱动器、LS-100驱动器、闪存卡或记忆棒之类的设备。此外，磁盘存储924可单独包括存储介质或与其他存储介质组合，其他存储介质包括但不限于光盘驱动器，诸如光盘ROM设备(CD-ROM)、CD可记录驱动器(CD-R驱动器)、CD可重写驱动器(CD-RW驱动器)或数字多功能盘ROM驱动器(DVD-ROM)。为方便磁盘存储设备924到系统总线918的连接，通常使用可移动或不可移动接口，诸如接口926。
应当理解，图9描述了在用户与在合适的操作环境910中描述的计算机资源间担当中介的软件。此类软件包括操作系统928。可储存在磁盘存储924上的操作系统928用于控制及分配计算机系统912的资源。系统应用程序930利用了操作系统928通过存储在系统存储器916中或磁盘存储924上的程序模块932及程序数据934对资源的管理。应当理解，本发明可以用各种操作系统或其组合来实现。
用户通过输入设备936输入命令或信息到计算机912内。输入设备936包括，但不限于，诸如鼠标、跟踪球、触针、触摸垫等的定位设备、键盘、话筒、操纵杆、游戏垫、圆盘式卫星天线、扫描仪、电视调谐卡、数码相机、数码摄像机、网络摄像头等等。这些及其他设备经由接口端口938，通过系统总线918连到处理单元914。接口端口938包括例如串行端口、并行端口、游戏端口及通用串行总线(USB)。输出设备940使用一些和输入设备936相同类型的端口。因而，例如USB端口可用于提供到计算机912的输入，及从计算机912输出信息到输出设备940。提供输出适配器942，以示意在其他输出设备940中有一些需要专用适配器的输出设备，如监视器、扬声器及打印机。作为示例而非限制，输出适配器942包括，提供输出设备940与系统总线918之间一种连接手段的显卡与声卡。应当注意，诸如远程计算机944等其他设备和/或设备系统同时提供输入与输出性能。
计算机912可使用到诸如远程计算机944等一个或多个远程计算机的逻辑连接在联网环境中操作。远程计算机944可以是个人计算机、服务器、路由器、网络PC、工作站、基于微处理器的电器、对等设备或其他普通网络节点等等，且通常包括相对于计算机912所描述的许多或全部元件。为简单起见，仅随远程计算机944示出记忆存储设备946。远程计算机944通过网络接口948逻辑地连接到计算机912，然后经由通信连接950物理连接。网络接口948包含诸如局域网(LAN)和广域网(WAN)等通信网络。LAN技术包括光纤分布式数据接口(FDDI)、铜缆分布式数据接口(CDDI)、以太网/IEEE1102.3、令牌环/IEEE1102.5等等。WAN技术包括，但不限于，点对点链接、如综合业务数字网及其变体的电路交换网络、分组交换网络及数字用户线(DSL)。
通信连接950指用于将网络接口948连到总线918的硬件/软件。尽管为说明清楚，将通信连接950示于计算机912内部，但它也可位于计算机912外部。仅为示例性目的，连接到网络接口948所必需的硬件/软件包括内部和外部技术，诸如包括常规电话级调制解调器、电缆调制解调器及DSL调制解调器在内的调制解调器、ISDN适配器及以太网卡。
上面的描述包括本发明的示例。当然，不可能为描述本发明而描述各组件或方法的每个可想到的组合，但本领域的普通技术人员会意识到，本发明的许多其他组合与变换是可能的。因此，本发明旨在包括归入所附权利要求书的精神与范畴内的所有此类改变、修改与变体。此外，在具体实施方式或权利要求书中使用术语“包括”的意义上，此类术语意图如术语“包含”那样具有包容性，如同“包含”在用作权利要求书中的过渡词时所解释的。

Claims (40)

1.一种反垃圾邮件更新系统，其特征在于，包含：
一垃圾邮件过滤器，所述垃圾邮件过滤器被训练成在垃圾邮件和好的邮件之间进行区分；
一更新组件，所述更新组件用更新信息来增量地增加或替换所述垃圾邮件过滤器的至少一部分，以便于防止垃圾邮件，其中，所述更新组件至少部分地通过使用一机器学习组件来构建；以及
机器学习组件，所述机器学习组件用从一个或多个新接收的邮件中提取的数据来训练第一新过滤器；确定所述第一新过滤器和所述垃圾邮件过滤器之间的差异是否满足一个阈值；训练第二新过滤器，该第二新过滤器被约束为当所述第一新过滤器和所述垃圾邮件过滤器之间的差异不满足所述阈值时维持所述垃圾邮件过滤器的特征的权重；以及确定所述垃圾邮件过滤器和所述第二新过滤器之间的差异是否满足一个或多个阈值，用于增加或替换所述垃圾邮件过滤器的至少一部分，其中所述更新组件所使用的更新信息至少部分基于所述垃圾邮件过滤器和所述第二新过滤器之间的差异。
2.如权利要求1所述的系统，其特征在于，所述更新组件至少更新所述垃圾邮件过滤器的数据部分。
3.如权利要求1所述的系统，其特征在于，所述系统在客户机或服务器的至少一个上运行。
4.如权利要求1所述的系统，其特征在于，所述更新组件是用基于匹配或基于散列的数据来训练的。
5.如权利要求1所述的系统，其特征在于，还包含一支付确认组件，它在向所述垃圾邮件过滤器提供一个或多个更新前，确定客户机或服务器是否已为接收更新付款。
6.如权利要求1所述的系统，其特征在于，所述更新组件通过多个IP地址向所述垃圾邮件过滤器提供更新信息，以减轻拒绝服务攻击。
7.如权利要求1所述的系统，其特征在于，所述更新信息包括对应于一个或多个参数改变的一个或多个增量更新文件。
8.如权利要求1所述的系统，其特征在于，所述垃圾邮件过滤器的至少一部分包含专用于至少一个特征的数据。
9.如权利要求8所述的系统，其特征在于，所述至少一个特征包含IP地址和URL的至少一个。
10.如权利要求1所述的系统，其特征在于，所述学习组件学习现有垃圾邮件过滤器和新过滤器之间的最少数量参数改变，以便于将增量更新大小最小化。
11.如权利要求1所述的系统，其特征在于，所述更新组件向所述垃圾邮件过滤器顺序地应用多个不同的更新。
12.如权利要求1所述的系统，其特征在于，所述更新组件合并多个更新的至少一个子集，以提高所述更新信息的下载效率。
13.如权利要求1所述的系统，其特征在于，所述更新组件以一种独立方式选择性地提供特征专用更新，使得至少一个特征独立于至少一个其他特征来更新。
14.如权利要求1所述的系统，其特征在于，所述垃圾邮件过滤器包含多个子过滤器，它们被彼此独立地训练或更新，且结果是可分解的。
15.如权利要求1所述的系统，其特征在于，还包含一隔离组件，它延迟邮件的至少一个子集的分类，直到所述垃圾邮件过滤器从所述更新组件接收到所述更新信息。
16.一种反垃圾邮件查询系统，其特征在于，包含：
一机器学习垃圾邮件过滤器，它被训练成在垃圾邮件和好的邮件之间进行区分；
一查找组件，它在邮件到来时接收对于特征相关信息的查询，以便于更新所述机器学习垃圾邮件过滤器；
特征分析系统，用于基于从训练消息的至少一部分中提取的各特征及其相应的权重来生成最新近的数据；以及
用于存储由所述特征分析系统生成的数据的查找数据库，
其中，如果任何来自所述查找数据库的数据满足所述查询，则发送或下载相对应的信息来更新所述机器学习垃圾邮件过滤器，并且
其中所述基于从训练消息的至少一部分中提取的各特征及其相应的权重来生成最新近的数据包括：用从一个或多个新接收的邮件中提取的数据来训练第一新过滤器；确定所述第一新过滤器和所述机器学习垃圾邮件过滤器之间的差异是否满足一个阈值；训练第二新过滤器，该第二新过滤器被约束为当所述第一新过滤器和所述机器学习垃圾邮件过滤器之间的差异不满足所述阈值时维持所述机器学习垃圾邮件过滤器的特征的权重；以及确定所述机器学习垃圾邮件过滤器和所述第二新过滤器之间的差异是否满足一个或多个阈值，用于增加或替换所述机器学习垃圾邮件过滤器的至少一部分，其中被发送或下载的用于更新所述机器学习垃圾邮件过滤器的所述相对应的信息至少部分基于所述机器学习垃圾邮件过滤器和所述第二新过滤器之间的差异。
17.如权利要求16所述的系统，其特征在于，所述特征相关信息包含关于多个特征或邮件的正或负数据。
18.如权利要求16所述的系统，其特征在于，所述特征相关信息包含关于多个特征的特征得分和名誉得分，所述多个特征包括IP地址、URL、主机名、字符串及单词的至少一个。
19.如权利要求16所述的系统，其特征在于，所述机器学习垃圾邮件过滤器是特殊地训练的。
20.如权利要求16所述的系统，其特征在于，所述机器学习垃圾邮件过滤器是至少部分地被增量更新的。
21.如权利要求16所述的系统，其特征在于，所述机器学习垃圾邮件过滤器是至少部分地由所述查找组件更新的。
22.如权利要求16所述的系统，其特征在于，所述查找组件将增量查找查询写入文件或将增量查找查询存储在磁盘上，并在存储器中将其组合。
23.如权利要求16所述的系统，其特征在于，所述查找组件包含：
一后端数据库，它包含一组特征及相关联的权重，及在训练过程中生成的一个或多个模型；
一中间件层，它在所述后端数据库和所述机器学习垃圾邮件过滤器之间传递信息；以及
所述机器学习垃圾邮件过滤器，它以预定或自动频率调用所述中间件层，以获取最新近的更新模型，并将一在线模型与本地存储的模型文件合并。
24.如权利要求16所述的系统，其特征在于，所述查询包含对来自客户机或服务器的至少一个的所述机器学习垃圾邮件过滤器的信息增量更新的请求。
25.如权利要求16所述的系统，其特征在于，还包含一更新的垃圾邮件过滤器，它以至少两个阶段从服务供应者传播到终端用户，其中，所述阶段的至少一个是自动的，使得有一在所述两阶段间进行人工干涉的选项。
26.如权利要求16所述的系统，其特征在于，还包含一组件，它将所述机器学习垃圾邮件过滤器的代码自动地从服务供应者传播到终端用户。
27.如权利要求16所述的系统，其特征在于，根据终端用户或管理员偏好，查询以指定时间间隔发送到所述查找组件。
28.如权利要求16所述的系统，其特征在于，对于所述机器学习垃圾邮件过滤器的更新无须重启一消息通信程序即可起效。
29.一种反垃圾邮件更新方法，其特征在于，包含：
提供一现有的已训练垃圾邮件过滤器；
有区别地用机器学习和来自一个或多个邮件的数据来训练一第一新垃圾邮件过滤器；
确定现有的已训练垃圾邮件过滤器和所述第一新垃圾邮件过滤器间的第一组差异是否满足一阈值或试探；
用新邮件数据训练第二新垃圾邮件过滤器，所述第二新垃圾邮件过滤器被约束为当所述第一新垃圾邮件过滤器和所述现有的已训练垃圾邮件过滤器之间的差异不满足所述阈值时维持所述现有的已训练垃圾邮件过滤器的特征的权重；
确定所述第二新垃圾邮件过滤器和现有的已训练垃圾邮件过滤器之间的第二组差异；以及
用所述第二组差异的子集来增量地更新所述现有的已训练垃圾邮件过滤器。
30.如权利要求29所述的方法，其特征在于，所述现有的已训练垃圾邮件过滤器是用机器学习来训练的。
31.如权利要求29所述的方法，其特征在于，所述现有的已训练垃圾邮件过滤器当前正由一消息通信程序使用，以将消息分类为垃圾邮件或好的邮件。
32.如权利要求29所述的方法，其特征在于，所述第一和第二新垃圾邮件过滤器是在较新近的或新的数据上训练的。
33.如权利要求29所述的方法，其特征在于，所述第一组和第二组差异分别包含所述现有的已训练垃圾邮件过滤器和所述第一和第二新垃圾邮件过滤器之间的一个或多个参数改变。
34.如权利要求29所述的方法，其特征在于，所述方法基于web。
35.如权利要求29所述的方法，其特征在于，还包含至少部分地通过搜索查找表和数据库的至少一个，来请求对所述现有的已训练垃圾邮件过滤器的特征专用更新。
36.如权利要求29所述的方法，其特征在于，所述增量地更新所述现有的已训练垃圾邮件过滤器至少部分地基于客户机、服务器或用户的任何一个收到的消息的分发。
37.如权利要求29所述的方法，其特征在于，对于所述现有的已训练垃圾邮件过滤器的一或多个增量更新是特征专用的，使得至少一个特征被独立于另一特征而更新。
38.如权利要求35所述的方法，其特征在于，所述查找表和数据库由对应于多个特征的多个增量更新组成。
39.一种反垃圾邮件更新系统，其特征在于，包含：
用于提供一现有的已训练垃圾邮件过滤器的装置；
用于有区别地使用机器学习和来自一个或多个邮件的数据来来训练一第一新垃圾邮件过滤器的装置；
用于确定现有的已训练垃圾邮件过滤器和所述第一新垃圾邮件过滤器之间的第一组差异是否满足一阈值或试探的装置；
用于用新邮件数据训练第二新垃圾邮件过滤器的装置，所述第二新垃圾邮件过滤器被约束为当所述第一新垃圾邮件过滤器和所述现有的已训练垃圾邮件过滤器之间的差异不满足所述阈值时维持所述现有的已训练垃圾邮件过滤器的特征的权重；
用于确定所述第二新垃圾邮件过滤器和现有的已训练垃圾邮件过滤器之间的第二组差异的装置；以及
用于使用所述第二组差异的子集来增量地更新所述现有的已训练垃圾邮件过滤器的装置。
40.如权利要求39所述的更新系统，其特征在于，还包含用于至少部分地通过搜索查找表和数据库的至少一个来请求对于所述现有的已训练垃圾邮件过滤器的特征专用更新的装置。
CN2005100822825A 2004-06-29 2005-06-29 增量反垃圾邮件查找与更新服务 Active CN1716293B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US10/879,626 2004-06-29
US10/879,626 US7664819B2 (en) 2004-06-29 2004-06-29 Incremental anti-spam lookup and update service

Publications (2)

Publication Number Publication Date
CN1716293A CN1716293A (zh) 2006-01-04
CN1716293B true CN1716293B (zh) 2012-04-18

Family

ID=35094489

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2005100822825A Active CN1716293B (zh) 2004-06-29 2005-06-29 增量反垃圾邮件查找与更新服务

Country Status (10)

Country Link
US (1) US7664819B2 (zh)
EP (1) EP1613010B1 (zh)
JP (1) JP4799057B2 (zh)
KR (1) KR101076909B1 (zh)
CN (1) CN1716293B (zh)
AT (1) ATE475242T1 (zh)
BR (1) BRPI0502444A (zh)
CA (1) CA2510762A1 (zh)
DE (1) DE602005022384D1 (zh)
MX (1) MXPA05007083A (zh)

Families Citing this family (81)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8219620B2 (en) * 2001-02-20 2012-07-10 Mcafee, Inc. Unwanted e-mail filtering system including voting feedback
US20050120118A1 (en) * 2003-12-01 2005-06-02 Thibadeau Robert H. Novel network server for electronic mail filter benchmarking
US7941490B1 (en) * 2004-05-11 2011-05-10 Symantec Corporation Method and apparatus for detecting spam in email messages and email attachments
US8635690B2 (en) * 2004-11-05 2014-01-21 Mcafee, Inc. Reputation based message processing
JP4559295B2 (ja) * 2005-05-17 2010-10-06 株式会社エヌ・ティ・ティ・ドコモ データ通信システム及びデータ通信方法
US8601160B1 (en) 2006-02-09 2013-12-03 Mcafee, Inc. System, method and computer program product for gathering information relating to electronic content utilizing a DNS server
WO2007093661A1 (es) * 2006-02-15 2007-08-23 Consejo Superior De Investigaciones Científicas Método para clasificar mensajes de correo electrónico en correo deseado y correo no deseado
US7627641B2 (en) * 2006-03-09 2009-12-01 Watchguard Technologies, Inc. Method and system for recognizing desired email
US7685271B1 (en) * 2006-03-30 2010-03-23 Symantec Corporation Distributed platform for testing filtering rules
US8020206B2 (en) 2006-07-10 2011-09-13 Websense, Inc. System and method of analyzing web content
US8615800B2 (en) 2006-07-10 2013-12-24 Websense, Inc. System and method for analyzing web content
US7945627B1 (en) 2006-09-28 2011-05-17 Bitdefender IPR Management Ltd. Layout-based electronic communication filtering systems and methods
CN101155182A (zh) 2006-09-30 2008-04-02 阿里巴巴公司 一种基于网络的垃圾信息过滤方法和装置
US7904418B2 (en) * 2006-11-14 2011-03-08 Microsoft Corporation On-demand incremental update of data structures using edit list
US9654495B2 (en) * 2006-12-01 2017-05-16 Websense, Llc System and method of analyzing web addresses
GB2458094A (en) * 2007-01-09 2009-09-09 Surfcontrol On Demand Ltd URL interception and categorization in firewalls
US8763114B2 (en) 2007-01-24 2014-06-24 Mcafee, Inc. Detecting image spam
US8214497B2 (en) 2007-01-24 2012-07-03 Mcafee, Inc. Multi-dimensional reputation scoring
US9246938B2 (en) * 2007-04-23 2016-01-26 Mcafee, Inc. System and method for detecting malicious mobile program code
US7853589B2 (en) * 2007-04-30 2010-12-14 Microsoft Corporation Web spam page classification using query-dependent data
GB0709527D0 (en) 2007-05-18 2007-06-27 Surfcontrol Plc Electronic messaging system, message processing apparatus and message processing method
US7899870B2 (en) * 2007-06-25 2011-03-01 Microsoft Corporation Determination of participation in a malicious software campaign
JP5121828B2 (ja) * 2007-07-04 2013-01-16 アイマトリックス株式会社 電子メール処理装置、電子メール処理方法、電子メール処理プログラムおよび電子メール処理システム
CN101345905A (zh) * 2007-07-12 2009-01-14 华为技术有限公司 更新网络侧用户控制参数的方法及设备
US8555379B1 (en) * 2007-09-28 2013-10-08 Symantec Corporation Method and apparatus for monitoring communications from a communications device
US8572184B1 (en) * 2007-10-04 2013-10-29 Bitdefender IPR Management Ltd. Systems and methods for dynamically integrating heterogeneous anti-spam filters
US8010614B1 (en) 2007-11-01 2011-08-30 Bitdefender IPR Management Ltd. Systems and methods for generating signatures for electronic communication classification
US20090125980A1 (en) * 2007-11-09 2009-05-14 Secure Computing Corporation Network rating
JP2009157510A (ja) * 2007-12-25 2009-07-16 Nec Corp スパム情報判別システム、スパム情報判別方法、およびスパム情報判別プログラム
US7996897B2 (en) * 2008-01-23 2011-08-09 Yahoo! Inc. Learning framework for online applications
US9240904B2 (en) * 2008-01-31 2016-01-19 Centurylink Intellectual Property Llc System and method for a messaging assistant
US8370930B2 (en) * 2008-02-28 2013-02-05 Microsoft Corporation Detecting spam from metafeatures of an email message
EP2318944A4 (en) * 2008-06-23 2013-12-11 Cloudmark Inc SYSTEMS AND METHOD FOR RESTORING DATA
US8490185B2 (en) * 2008-06-27 2013-07-16 Microsoft Corporation Dynamic spam view settings
CN102077201A (zh) * 2008-06-30 2011-05-25 网圣公司 用于网页的动态及实时归类的系统及方法
CN101330476B (zh) * 2008-07-02 2011-04-13 北京大学 一种垃圾邮件动态检测方法
US8538466B2 (en) * 2008-08-11 2013-09-17 Centurylink Intellectual Property Llc Message filtering system using profiles
US8352557B2 (en) * 2008-08-11 2013-01-08 Centurylink Intellectual Property Llc Message filtering system
US20100082749A1 (en) * 2008-09-26 2010-04-01 Yahoo! Inc Retrospective spam filtering
CN101415159B (zh) * 2008-12-02 2010-06-02 腾讯科技（深圳）有限公司 对垃圾邮件进行拦截的方法和装置
WO2010125777A1 (ja) * 2009-04-30 2010-11-04 日本電気株式会社 通信システム及び処理方法
US8108612B2 (en) * 2009-05-15 2012-01-31 Microsoft Corporation Location updates for a distributed data store
US8959157B2 (en) * 2009-06-26 2015-02-17 Microsoft Corporation Real-time spam look-up system
US8479286B2 (en) 2009-12-15 2013-07-02 Mcafee, Inc. Systems and methods for behavioral sandboxing
US8745729B2 (en) 2010-06-22 2014-06-03 Microsoft Corporation Preventing abuse of services through infrastructure incompatibility
US20120215853A1 (en) * 2011-02-17 2012-08-23 Microsoft Corporation Managing Unwanted Communications Using Template Generation And Fingerprint Comparison Features
US9122877B2 (en) 2011-03-21 2015-09-01 Mcafee, Inc. System and method for malware and network reputation correlation
US9519682B1 (en) 2011-05-26 2016-12-13 Yahoo! Inc. User trustworthiness
US9106680B2 (en) 2011-06-27 2015-08-11 Mcafee, Inc. System and method for protocol fingerprinting and reputation correlation
US20130018965A1 (en) * 2011-07-12 2013-01-17 Microsoft Corporation Reputational and behavioral spam mitigation
US9087324B2 (en) 2011-07-12 2015-07-21 Microsoft Technology Licensing, Llc Message categorization
CN102377690B (zh) * 2011-10-10 2014-09-17 网易（杭州）网络有限公司 反垃圾邮件网关系统及方法
US8739281B2 (en) 2011-12-06 2014-05-27 At&T Intellectual Property I, L.P. Multilayered deception for intrusion detection and prevention
CN103312585B (zh) * 2012-03-08 2016-12-28 中兴通讯股份有限公司 一种垃圾消息处理方法及系统
US10977285B2 (en) 2012-03-28 2021-04-13 Verizon Media Inc. Using observations of a person to determine if data corresponds to the person
US8931043B2 (en) 2012-04-10 2015-01-06 Mcafee Inc. System and method for determining and using local reputations of users and hosts to protect information in a network environment
US10013672B2 (en) * 2012-11-02 2018-07-03 Oath Inc. Address extraction from a communication
US9241259B2 (en) 2012-11-30 2016-01-19 Websense, Inc. Method and apparatus for managing the transfer of sensitive information to mobile devices
CN103020646A (zh) * 2013-01-06 2013-04-03 深圳市彩讯科技有限公司 一种支持增量训练的垃圾图片识别方法和系统
US10346411B1 (en) * 2013-03-14 2019-07-09 Google Llc Automatic target audience suggestions when sharing in a social network
CN103455581B (zh) * 2013-08-26 2016-05-04 北京理工大学 基于语义扩展的海量短文本信息过滤方法
JP6044556B2 (ja) 2014-01-16 2016-12-14 株式会社デンソー 学習システム、車載装置、及び、サーバ
US9268597B2 (en) * 2014-04-01 2016-02-23 Google Inc. Incremental parallel processing of data
US20150304394A1 (en) * 2014-04-17 2015-10-22 Rovio Entertainment Ltd Distribution management
CN104133852B (zh) * 2014-07-04 2018-03-16 小米科技有限责任公司 网页访问方法、装置、服务器及终端
US9070088B1 (en) * 2014-09-16 2015-06-30 Trooly Inc. Determining trustworthiness and compatibility of a person
US9432393B2 (en) * 2015-02-03 2016-08-30 Cisco Technology, Inc. Global clustering of incidents based on malware similarity and online trustfulness
US10009461B2 (en) * 2015-06-08 2018-06-26 Sadiq Aziz Ansari Dynamic user interface to reduce impact of unwanted calls
JP6597250B2 (ja) * 2015-12-04 2019-10-30 富士通株式会社 学習プログラム、学習方法及び学習装置
WO2017130835A1 (ja) * 2016-01-27 2017-08-03 日本電信電話株式会社 作成装置、作成方法、および作成プログラム
WO2017195199A1 (en) * 2016-05-10 2017-11-16 Ironscales Ltd. Method and system for detecting malicious and soliciting electronic messages
US10715533B2 (en) * 2016-07-26 2020-07-14 Microsoft Technology Licensing, Llc. Remediation for ransomware attacks on cloud drive folders
US10855635B2 (en) 2016-11-14 2020-12-01 Microsoft Technology Licensing, Llc Electronic mail (e-mail) system support for messages with different traffic types
US10606850B2 (en) 2017-09-21 2020-03-31 International Business Machines Corporation Updating a knowledge base of a spam detection system
US10861025B2 (en) * 2018-03-02 2020-12-08 Capital One Services, Llc Systems and methods of photo-based fraud protection
US11463406B2 (en) * 2018-05-17 2022-10-04 Zixcorp Systems, Inc. System and method for detecting potentially harmful data
KR102113663B1 (ko) * 2018-10-18 2020-05-22 한국과학기술원 디지털 스토리텔링을 위한 계층적 분류 기반의 증분 클래스 학습 방법 및 컴퓨팅 장치
CN109325640B (zh) * 2018-12-07 2022-04-26 中山大学 用户价值预测方法、装置、存储介质及设备
US11070618B2 (en) * 2019-01-30 2021-07-20 Valve Corporation Techniques for updating files
US11323514B2 (en) * 2019-04-30 2022-05-03 EMC IP Holding Company LLC Data tiering for edge computers, hubs and central systems
US11886391B2 (en) 2020-05-14 2024-01-30 Valve Corporation Efficient file-delivery techniques

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1350246A (zh) * 2001-12-03 2002-05-22 上海交通大学 智能化的电子邮件内容过滤方法

Family Cites Families (141)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB8918553D0 (en) 1989-08-15 1989-09-27 Digital Equipment Int Message control system
US5758257A (en) 1994-11-29 1998-05-26 Herz; Frederick System and method for scheduling broadcast of and access to video programs and other data using customer profiles
US5619648A (en) 1994-11-30 1997-04-08 Lucent Technologies Inc. Message filtering techniques
US5638487A (en) 1994-12-30 1997-06-10 Purespeech, Inc. Automatic speech recognition
US5845077A (en) 1995-11-27 1998-12-01 Microsoft Corporation Method and system for identifying and obtaining computer software from a remote computer
US6101531A (en) 1995-12-19 2000-08-08 Motorola, Inc. System for communicating user-selected criteria filter prepared at wireless client to communication server for filtering data transferred from host to said wireless client
US5704017A (en) 1996-02-16 1997-12-30 Microsoft Corporation Collaborative filtering utilizing a belief network
US5884033A (en) 1996-05-15 1999-03-16 Spyglass, Inc. Internet filtering system for filtering data transferred over the internet utilizing immediate and deferred filtering actions
US6151643A (en) * 1996-06-07 2000-11-21 Networks Associates, Inc. Automatic updating of diverse software products on multiple client computer systems by downloading scanning application to client computer and generating software list on client computer
US6453327B1 (en) 1996-06-10 2002-09-17 Sun Microsystems, Inc. Method and apparatus for identifying and discarding junk electronic mail
US6072942A (en) 1996-09-18 2000-06-06 Secure Computing Corporation System and method of electronic mail filtering using interconnected nodes
EP0837399B1 (en) 1996-10-15 2000-03-15 STMicroelectronics S.r.l. An electronic device for performing convolution operations
US5805801A (en) 1997-01-09 1998-09-08 International Business Machines Corporation System and method for detecting and preventing security
US5905859A (en) 1997-01-09 1999-05-18 International Business Machines Corporation Managed network device security method and apparatus
US6122657A (en) 1997-02-04 2000-09-19 Networks Associates, Inc. Internet computer system with methods for dynamic filtering of hypertext tags and content
US6742047B1 (en) 1997-03-27 2004-05-25 Intel Corporation Method and apparatus for dynamically filtering network content
EP0881559B1 (en) 1997-05-28 2003-08-20 Siemens Aktiengesellschaft Computer system for protecting software and a method for protecting software
US7117358B2 (en) 1997-07-24 2006-10-03 Tumbleweed Communications Corp. Method and system for filtering communication
US6199102B1 (en) 1997-08-26 2001-03-06 Christopher Alan Cobb Method and system for filtering electronic messages
US6003027A (en) 1997-11-21 1999-12-14 International Business Machines Corporation System and method for determining confidence levels for the results of a categorization system
US6393465B2 (en) 1997-11-25 2002-05-21 Nixmail Corporation Junk electronic mail detector and eliminator
US6351740B1 (en) * 1997-12-01 2002-02-26 The Board Of Trustees Of The Leland Stanford Junior University Method and system for training dynamic nonlinear adaptive filters which have embedded memory
AU1907899A (en) * 1997-12-22 1999-07-12 Accepted Marketing, Inc. E-mail filter and method thereof
US6023723A (en) 1997-12-22 2000-02-08 Accepted Marketing, Inc. Method and system for filtering unwanted junk e-mail utilizing a plurality of filtering mechanisms
US6052709A (en) 1997-12-23 2000-04-18 Bright Light Technologies, Inc. Apparatus and method for controlling delivery of unsolicited electronic mail
GB2334116A (en) 1998-02-04 1999-08-11 Ibm Scheduling and dispatching queued client requests within a server computer
US6484261B1 (en) 1998-02-17 2002-11-19 Cisco Technology, Inc. Graphical network security policy management
US6504941B2 (en) 1998-04-30 2003-01-07 Hewlett-Packard Company Method and apparatus for digital watermarking of images
US6314421B1 (en) 1998-05-12 2001-11-06 David M. Sharnoff Method and apparatus for indexing documents for message filtering
US6074942A (en) 1998-06-03 2000-06-13 Worldwide Semiconductor Manufacturing Corporation Method for forming a dual damascene contact and interconnect
US6308273B1 (en) 1998-06-12 2001-10-23 Microsoft Corporation Method and system of security location discrimination
US6192360B1 (en) 1998-06-23 2001-02-20 Microsoft Corporation Methods and apparatus for classifying text and for building a text classifier
US6161130A (en) 1998-06-23 2000-12-12 Microsoft Corporation Technique which utilizes a probabilistic classifier to detect "junk" e-mail by automatically updating a training and re-training the classifier based on the updated training set
US6167434A (en) 1998-07-15 2000-12-26 Pang; Stephen Y. Computer code for removing junk e-mail messages
US7275082B2 (en) * 1998-07-15 2007-09-25 Pang Stephen Y F System for policing junk e-mail messages
US6112227A (en) * 1998-08-06 2000-08-29 Heiner; Jeffrey Nelson Filter-in method for reducing junk e-mail
US6434600B2 (en) 1998-09-15 2002-08-13 Microsoft Corporation Methods and systems for securely delivering electronic mail to hosts having dynamic IP addresses
US6732273B1 (en) 1998-10-21 2004-05-04 Lucent Technologies Inc. Priority and security coding system for electronic mail messages
GB2343529B (en) 1998-11-07 2003-06-11 Ibm Filtering incoming e-mail
US6546416B1 (en) 1998-12-09 2003-04-08 Infoseek Corporation Method and system for selectively blocking delivery of bulk electronic mail
US6643686B1 (en) 1998-12-18 2003-11-04 At&T Corp. System and method for counteracting message filtering
US6615242B1 (en) 1998-12-28 2003-09-02 At&T Corp. Automatic uniform resource locator-based message filter
US6654787B1 (en) * 1998-12-31 2003-11-25 Brightmail, Incorporated Method and apparatus for filtering e-mail
US6266692B1 (en) 1999-01-04 2001-07-24 International Business Machines Corporation Method for blocking all unwanted e-mail (SPAM) using a header-based password
US6330590B1 (en) 1999-01-05 2001-12-11 William D. Cotten Preventing delivery of unwanted bulk e-mail
US6424997B1 (en) 1999-01-27 2002-07-23 International Business Machines Corporation Machine learning based electronic messaging system
US6477551B1 (en) 1999-02-16 2002-11-05 International Business Machines Corporation Interactive electronic messaging system
US7032030B1 (en) 1999-03-11 2006-04-18 John David Codignotto Message publishing system and method
US6732149B1 (en) 1999-04-09 2004-05-04 International Business Machines Corporation System and method for hindering undesired transmission or receipt of electronic messages
US6370526B1 (en) 1999-05-18 2002-04-09 International Business Machines Corporation Self-adaptive method and system for providing a user-preferred ranking order of object sets
US6592627B1 (en) 1999-06-10 2003-07-15 International Business Machines Corporation System and method for organizing repositories of semi-structured documents such as email
US6449636B1 (en) 1999-09-08 2002-09-10 Nortel Networks Limited System and method for creating a dynamic data file from collected and filtered web pages
US6321267B1 (en) 1999-11-23 2001-11-20 Escom Corporation Method and apparatus for filtering junk email
US6728690B1 (en) 1999-11-23 2004-04-27 Microsoft Corporation Classification system trainer employing maximum margin back-propagation with probabilistic outputs
US6701440B1 (en) 2000-01-06 2004-03-02 Networks Associates Technology, Inc. Method and system for protecting a computer using a remote e-mail scanning device
US6633855B1 (en) * 2000-01-06 2003-10-14 International Business Machines Corporation Method, system, and program for filtering content using neural networks
US7822977B2 (en) 2000-02-08 2010-10-26 Katsikas Peter L System for eliminating unauthorized electronic mail
US6691156B1 (en) 2000-03-10 2004-02-10 International Business Machines Corporation Method for restricting delivery of unsolicited E-mail
US6684201B1 (en) 2000-03-31 2004-01-27 Microsoft Corporation Linguistic disambiguation system and method using string-based pattern training to learn to resolve ambiguity sites
US7210099B2 (en) 2000-06-12 2007-04-24 Softview Llc Resolution independent vector display of internet content
US20040073617A1 (en) 2000-06-19 2004-04-15 Milliken Walter Clark Hash-based systems and methods for detecting and preventing transmission of unwanted e-mail
CN1300677C (zh) 2000-06-22 2007-02-14 微软公司 分布式计算服务平台
US7003555B1 (en) 2000-06-23 2006-02-21 Cloudshield Technologies, Inc. Apparatus and method for domain name resolution
US6779021B1 (en) * 2000-07-28 2004-08-17 International Business Machines Corporation Method and system for predicting and managing undesirable electronic mail
US6842773B1 (en) 2000-08-24 2005-01-11 Yahoo ! Inc. Processing of textual electronic communication distributed in bulk
US6971023B1 (en) 2000-10-03 2005-11-29 Mcafee, Inc. Authorizing an additional computer program module for use with a core computer program
US6757830B1 (en) 2000-10-03 2004-06-29 Networks Associates Technology, Inc. Detecting unwanted properties in received email messages
US6748422B2 (en) 2000-10-19 2004-06-08 Ebay Inc. System and method to control sending of unsolicited communications relating to a plurality of listings in a network-based commerce facility
US7243125B2 (en) 2000-12-08 2007-07-10 Xerox Corporation Method and apparatus for presenting e-mail threads as semi-connected text by removing redundant material
JP3554271B2 (ja) 2000-12-13 2004-08-18 パナソニック コミュニケーションズ株式会社 情報通信装置
US6775704B1 (en) 2000-12-28 2004-08-10 Networks Associates Technology, Inc. System and method for preventing a spoofed remote procedure call denial of service attack in a networked computing environment
US20050159136A1 (en) 2000-12-29 2005-07-21 Andrew Rouse System and method for providing wireless device access
US20020129111A1 (en) 2001-01-15 2002-09-12 Cooper Gerald M. Filtering unsolicited email
US20020124025A1 (en) 2001-03-01 2002-09-05 International Business Machines Corporataion Scanning and outputting textual information in web page images
US6928465B2 (en) 2001-03-16 2005-08-09 Wells Fargo Bank, N.A. Redundant email address detection and capture system
US6751348B2 (en) 2001-03-29 2004-06-15 Fotonation Holdings, Llc Automated detection of pornographic images
US8949878B2 (en) 2001-03-30 2015-02-03 Funai Electric Co., Ltd. System for parental control in video programs based on multimedia content information
US6920477B2 (en) * 2001-04-06 2005-07-19 President And Fellows Of Harvard College Distributed, compressed Bloom filter Web cache server
US8095597B2 (en) * 2001-05-01 2012-01-10 Aol Inc. Method and system of automating data capture from electronic correspondence
US7188106B2 (en) 2001-05-01 2007-03-06 International Business Machines Corporation System and method for aggregating ranking results from various sources to improve the results of web searching
US6768991B2 (en) 2001-05-15 2004-07-27 Networks Associates Technology, Inc. Searching for sequences of character data
US7103599B2 (en) 2001-05-15 2006-09-05 Verizon Laboratories Inc. Parsing of nested internet electronic mail documents
US20030009698A1 (en) 2001-05-30 2003-01-09 Cascadezone, Inc. Spam avenger
US7502829B2 (en) 2001-06-21 2009-03-10 Cybersoft, Inc. Apparatus, methods and articles of manufacture for intercepting, examining and controlling code, data and files and their transfer
US7328250B2 (en) 2001-06-29 2008-02-05 Nokia, Inc. Apparatus and method for handling electronic mail
US20030009495A1 (en) 2001-06-29 2003-01-09 Akli Adjaoute Systems and methods for filtering electronic content
TW533380B (en) 2001-07-23 2003-05-21 Ulead Systems Inc Group image detecting method
US6769016B2 (en) 2001-07-26 2004-07-27 Networks Associates Technology, Inc. Intelligent SPAM detection system using an updateable neural analysis engine
US7146402B2 (en) 2001-08-31 2006-12-05 Sendmail, Inc. E-mail system providing filtering methodology on a per-domain basis
US20060036701A1 (en) 2001-11-20 2006-02-16 Bulfer Andrew F Messaging system having message filtering and access control
US8561167B2 (en) 2002-03-08 2013-10-15 Mcafee, Inc. Web reputation scoring
JP2003273936A (ja) * 2002-03-15 2003-09-26 First Trust:Kk ファイアウォールシステム
US6785820B1 (en) * 2002-04-02 2004-08-31 Networks Associates Technology, Inc. System, method and computer program product for conditionally updating a security program
US20030204569A1 (en) 2002-04-29 2003-10-30 Michael R. Andrews Method and apparatus for filtering e-mail infected with a previously unidentified computer virus
US20030229672A1 (en) 2002-06-05 2003-12-11 Kohn Daniel Mark Enforceable spam identification and reduction system, and method thereof
JP2004029939A (ja) 2002-06-21 2004-01-29 Hitachi Ltd 通信プロキシ装置、および、通信プロキシ装置を用いたサービス提供方法
US8046832B2 (en) 2002-06-26 2011-10-25 Microsoft Corporation Spam detector with challenges
US8924484B2 (en) 2002-07-16 2014-12-30 Sonicwall, Inc. Active e-mail filter with challenge-response
US7363490B2 (en) 2002-09-12 2008-04-22 International Business Machines Corporation Method and system for selective email acceptance via encoded email identifiers
JP4237461B2 (ja) 2002-09-27 2009-03-11 株式会社インフォメーションオンライン ホームページ自動更新システム
US7188369B2 (en) * 2002-10-03 2007-03-06 Trend Micro, Inc. System and method having an antivirus virtual scanning processor with plug-in functionalities
US20040083270A1 (en) 2002-10-23 2004-04-29 David Heckerman Method and system for identifying junk e-mail
US7149801B2 (en) 2002-11-08 2006-12-12 Microsoft Corporation Memory bound functions for spam deterrence and the like
US6732157B1 (en) 2002-12-13 2004-05-04 Networks Associates Technology, Inc. Comprehensive anti-spam system, method, and computer program product for filtering unwanted e-mail messages
US20060265498A1 (en) * 2002-12-26 2006-11-23 Yehuda Turgeman Detection and prevention of spam
US7171450B2 (en) 2003-01-09 2007-01-30 Microsoft Corporation Framework to enable integration of anti-spam technologies
US7533148B2 (en) 2003-01-09 2009-05-12 Microsoft Corporation Framework to enable integration of anti-spam technologies
US7725544B2 (en) 2003-01-24 2010-05-25 Aol Inc. Group based spam classification
US7249162B2 (en) * 2003-02-25 2007-07-24 Microsoft Corporation Adaptive junk message filtering system
US7219148B2 (en) * 2003-03-03 2007-05-15 Microsoft Corporation Feedback loop for spam prevention
US7543053B2 (en) * 2003-03-03 2009-06-02 Microsoft Corporation Intelligent quarantining for spam prevention
US7366761B2 (en) 2003-10-09 2008-04-29 Abaca Technology Corporation Method for creating a whitelist for processing e-mails
US20040177120A1 (en) 2003-03-07 2004-09-09 Kirsch Steven T. Method for filtering e-mail messages
US7320020B2 (en) 2003-04-17 2008-01-15 The Go Daddy Group, Inc. Mail server probability spam filter
US7653698B2 (en) 2003-05-29 2010-01-26 Sonicwall, Inc. Identifying e-mail messages from allowed senders
US7293063B1 (en) 2003-06-04 2007-11-06 Symantec Corporation System utilizing updated spam signatures for performing secondary signature-based analysis of a held e-mail to improve spam email detection
US7263607B2 (en) 2003-06-12 2007-08-28 Microsoft Corporation Categorizing electronic messages based on trust between electronic messaging entities
US8533270B2 (en) * 2003-06-23 2013-09-10 Microsoft Corporation Advanced spam detection techniques
US7051077B2 (en) 2003-06-30 2006-05-23 Mx Logic, Inc. Fuzzy logic voting method and system for classifying e-mail using inputs from multiple spam classifiers
US7155484B2 (en) 2003-06-30 2006-12-26 Bellsouth Intellectual Property Corporation Filtering email messages corresponding to undesirable geographical regions
US20050015455A1 (en) 2003-07-18 2005-01-20 Liu Gary G. SPAM processing system and methods including shared information among plural SPAM filters
US20050050150A1 (en) 2003-08-29 2005-03-03 Sam Dinkin Filter, system and method for filtering an electronic mail message
US7451487B2 (en) 2003-09-08 2008-11-11 Sonicwall, Inc. Fraudulent message detection
US7257564B2 (en) 2003-10-03 2007-08-14 Tumbleweed Communications Corp. Dynamic message filtering
US7451184B2 (en) 2003-10-14 2008-11-11 At&T Intellectual Property I, L.P. Child protection from harmful email
US7610341B2 (en) 2003-10-14 2009-10-27 At&T Intellectual Property I, L.P. Filtered email differentiation
US7930351B2 (en) 2003-10-14 2011-04-19 At&T Intellectual Property I, L.P. Identifying undesired email messages having attachments
US7373385B2 (en) 2003-11-03 2008-05-13 Cloudmark, Inc. Method and apparatus to block spam based on spam reports from a community of users
US20050102366A1 (en) * 2003-11-07 2005-05-12 Kirsch Steven T. E-mail filter employing adaptive ruleset
US20050120019A1 (en) 2003-11-29 2005-06-02 International Business Machines Corporation Method and apparatus for the automatic identification of unsolicited e-mail messages (SPAM)
US7359941B2 (en) 2004-01-08 2008-04-15 International Business Machines Corporation Method and apparatus for filtering spam email
US7590694B2 (en) 2004-01-16 2009-09-15 Gozoom.Com, Inc. System for determining degrees of similarity in email message information
US7693943B2 (en) 2004-01-23 2010-04-06 International Business Machines Corporation Classification of electronic mail into multiple directories based upon their spam-like properties
US20050182735A1 (en) 2004-02-12 2005-08-18 Zager Robert P. Method and apparatus for implementing a micropayment system to control e-mail spam
US7640322B2 (en) 2004-02-26 2009-12-29 Truefire, Inc. Systems and methods for producing, managing, delivering, retrieving, and/or tracking permission based communications
US20050204159A1 (en) 2004-03-09 2005-09-15 International Business Machines Corporation System, method and computer program to block spam
US7627670B2 (en) 2004-04-29 2009-12-01 International Business Machines Corporation Method and apparatus for scoring unsolicited e-mail
EP1767010B1 (en) 2004-06-15 2015-11-11 Tekelec Global, Inc. Method, system, and computer program products for content-based screening of MMS messages
US20060123083A1 (en) 2004-12-03 2006-06-08 Xerox Corporation Adaptive spam message detector
US7937480B2 (en) 2005-06-02 2011-05-03 Mcafee, Inc. Aggregation of reputation data
US7971137B2 (en) 2005-12-14 2011-06-28 Google Inc. Detecting and rejecting annoying documents

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1350246A (zh) * 2001-12-03 2002-05-22 上海交通大学 智能化的电子邮件内容过滤方法

Also Published As

Publication number Publication date
KR101076909B1 (ko) 2011-10-25
MXPA05007083A (es) 2006-02-22
CA2510762A1 (en) 2005-12-29
ATE475242T1 (de) 2010-08-15
US7664819B2 (en) 2010-02-16
US20060015561A1 (en) 2006-01-19
DE602005022384D1 (de) 2010-09-02
EP1613010A2 (en) 2006-01-04
EP1613010A3 (en) 2007-06-20
JP4799057B2 (ja) 2011-10-19
CN1716293A (zh) 2006-01-04
KR20060048713A (ko) 2006-05-18
EP1613010B1 (en) 2010-07-21
BRPI0502444A (pt) 2006-02-07
JP2006012165A (ja) 2006-01-12

Similar Documents

Publication Publication Date Title
CN1716293B (zh) 增量反垃圾邮件查找与更新服务
CN1658572B (zh) 消息分类系统和方法
Seymour et al. Weaponizing data science for social engineering: Automated E2E spear phishing on Twitter
CN100472484C (zh) 用于防止垃圾邮件的反馈循环
US10817667B2 (en) Method and system for a chat box eco-system in a federated architecture
CN1573784B (zh) 用于阻止垃圾邮件的源/目的地的特征和列表
Chirita et al. MailRank: using ranking for spam detection
CN101877837B (zh) 一种短信过滤的方法和装置
CN103778548B (zh) 商品信息与关键词匹配方法、商品信息投放方法及装置
US9984427B2 (en) Data ingestion module for event detection and increased situational awareness
CN101317173A (zh) 用于通信和合作的系统
CN105915438A (zh) 消息推送方法、装置及系统
US8731986B2 (en) Modulated cascading electronic messaging network
Pérez-Díaz et al. Rough sets for spam filtering: Selecting appropriate decision rules for boundary e-mail classification
US20080177848A1 (en) System and method of sharing and dissemination of electronic information
CN107317724A (zh) 基于云计算技术的数据采集系统及方法
CN102130973A (zh) 对电子邮件实施自动批量网络取证的系统和方法
CN101494546A (zh) 协作式垃圾邮件防范方法
Clack et al. Autonomous document classification for business
US20100161671A1 (en) System and method for generating hierarchical categories from collection of related terms
Fdez-Glez et al. WSF2: a novel framework for filtering web spam
US20080307057A1 (en) Method and system for providing a spam-free email environment
Chandra et al. Machine learning framework to analyze against spear phishing
Alhawamleh Advanced Spam Filtering In Electronic Mail Using Hybrid the Mini Batch K-Means Normalized Mutual Information Feature Elimination with Elephant Herding Optimization Technique
CN106506647A (zh) 一种客户端具有数据备份装置的智慧社区云存储系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant
ASS Succession or assignment of patent right

Owner name: MICROSOFT TECHNOLOGY LICENSING LLC

Free format text: FORMER OWNER: MICROSOFT CORP.

Effective date: 20150429

C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20150429

Address after: Washington State

Patentee after: Micro soft technique license Co., Ltd

Address before: Washington State

Patentee before: Microsoft Corp.