专家谈您所不知的网站隐私策略
时间:07-28
来源:IT专家网
点击:
一系列的法律事件表明,即使不出于商业原因,一些公司仍然可能会被迫制造和保留一些文件和纪录,而这样做的目的仅仅是为了使这些资料可供发现。
公司通常会制造、保持和存储一些电子纪录。其中有些纪录被有意识地制造,比如备忘录、信件、电子表格甚至是电子邮件和聊天或者即时信息通讯;另外一些纪录则是被无意识地制造,比如meta数据、日志纪录、IP历史纪录等等。一些信息对于公司来说是有用的,便被公司保留;其他的信息相对没有多大用处,只是占用空间,甚至会给公司带来潜在的责任,即给公司带来莫须有的威胁,如攻击或者侵犯隐私的隐患。大多数公司在发展或者维持文件保存/销毁政策的过程中经常到的一个问题,就在于认定哪些文件和纪录需要保留,而哪些是不需要保留下来,并且需要有效地清除的。然而,最近的一些法律案件已经使这个文件的保存和销毁问题更加复杂化。
最近一宗涉及到文件共享网站Torrentspy的案件刚好说明了这一点。Torrentspy的隐私政策是明确和简洁的。它还指出:
TorrentSpy.com致力于保护您的隐私。TorrentSpy.com不会向任何其他公司出售、交易或租售您的个人信息。TorrentSpy.com不会收集任何有关您的个人信息,除非您主动或故意提供这类资料。
与其他成千上万的其他网站的隐私政策并没有太大的差别,甚至可以说是相当的类似,这种隐私政策被认为是具有法律约束力的合约。美国联邦贸易委员会及隐私委员会委员,在欧洲、亚洲和其他地区将定期监督公司履行他们的承诺--当然,这种监督行为是处在民事或刑事起诉或罚款的威胁之下的。
第一个与隐私政策有关的问题--和大多数隐私政策一样--在于它并不是完全真实的。无论何时,只要你浏览一个网站,你就会"不由自主"地向网站的运行者提供"个人"信息,诸如你所使用的浏览器类型、你的IP地址、IP地址的物理位置、你的配置设置、你曾浏览过的网站,以及你的其他一些活动和信息。如果你正在从事恶意的、非法的或者任何"可起诉的"行为,该网站经营者当然有充分的可能会试图利用这些信息来确定你的身份,并查明你正在做什么--这就是"个人信息"的实质。实际上,作为法庭检察员,其工作的一大部分就是使用这种信息来找到所要寻找的人。当沉迷于网络的网虫们知道这些这些信息正在被收集和利用时,他们中的绝大多数都不会承认他们是"主动而且故意"地向网站提供信息的。然而,这种信息对于网站经营者来说,往往都具有相当的经济价值。知道了用户所浏览的网站,可能就会导致用户需要依据"每次点击付费"的协议支付相关的费用。汇总个人信息不仅对于广告商非常有利,而且对于收集者来说也是有利可图的。因此,你浏览的网站只收集你主动自愿地提供给它的信息,这样说是非常不准确的。一个对于实行隐私政策更好的方法应该是包含语言的,例如谷歌公司,与其所使用的语言相类似的语言,它明确规定:
日志信息--当你使用谷歌服务,无论你在何时访问一个网站,我们的服务器都将会自动纪录你的浏览器发送过来的信息。这些服务器日志可能会包含一些诸如你的web请求、互联网协议地址、浏览器类型、浏览器的语言、你的请求发出的日期和时间,或者是一条或更多能够确定你的浏览器的痕迹的信息。
这方面的一些信息将会被自动收集,作为向用户提供所索取的网页内容的结果。你可能会认为,按照其隐私政策,企业可以会选择不收集,或者更准确的说,不存储或保留这些资料。毕竟,这是他们向他们的用户所承诺的,难道不是吗?
许久以前就有一则有关法律的谚语,从本质上证明了"存在就是为了被发现"这一观点。 目前,由于一场牵涉到TorrentSpy的官司,美国加利福尼亚州中区地方法院已经基本延伸这种逻辑,声明说:"如果它不存在,我们将会要求它被创造和存储,使之能够被发现。"在由哥伦比亚影视公司向Bunnell提起的案件中,出现了电影制片厂想要找出曾经下载过版权作品的用户的身份--而这些个人信息都与TorrentSpy的客户有关。TorrentSpy向它的用户承诺,该公司并没有搜集这类信息,并且也没有法律义务这样做。正如法院所指出的:
一般说来,当用户点击一个网页,或者一个网站上的文件的链接时,该网站的网络服务器程序就会收到客户对于这个网页或者文件的请求。这个要求包括了用户电脑的IP地址,和被请求的网页或文件的名称,以及其他一些类似的信息。这些信息被拷贝并存储在RAM中。RAM是一种临时存储设备器,方便电脑处理数据。每个用户对网页或者文件的请求都会被网络服务器程序以这种方式存储到RAM中。网络服务器破译和处理存储在RAM中的数据,以满足用户的要求。然后,网络服务器通过将被请求的文件发送给用户来完成要求。如果网站上的纪录功能是可使用的,网络服务器就会将请求和请求文件被交付的事实拷贝到日志文件。如果纪录功能不可用,则请求将不予保留。
为了符合其契约隐私政策,TorrentSpy没有启动纪录功能,没有捕捉RAM中的信息(或者更确切的说是没有存储)。因此,有人断言,它不可能被起诉。在TorrentSpy被起诉后,一个关于这些信息--存储在RAM中的信息--是否是由TorrentSpy公司定期收集的问题被TorrentSpy提了出来。由其创造的"电子储存信息"很容易会被发现和受到所谓的"诉讼持有"的攻击。当一个诉讼进行时,一旦你意识到你持有的信息与正在进行的诉讼威胁有关时,你必须停止你的文件销毁政策,并且停止删除相关信息。根据联邦民事程序规定的资料,电子存储信息被定义为"被固定在一个有形的形式中的信息,和存储在一个可从中检索和审查的中等形式中的信息"。 法院驳回了TorrentSpy的声明,该声明表示RAM中的信息从未被"存储",因为从来都没有使用过纪录功能;以及TorrentSpy使纪录功能启动从而使其"创造"的纪录也并不存在。当然,在RAM中的信息--在短时期内--至少是瞬间"储存",就像流媒体(比如网络电话,或者电话会议)在播放的短暂间隔中"储存"在你的计算机上一样。因此,信息是(1)电子的;(2)可以存储的;(3)具有相关性。其后果是,不仅这些信息容易受到TorrentSpy先例的影响,而且公司实体必须停止它的文件删除政策,以防TorrentSpy删除它从未保存的RAM中的信息。
这一裁决(目前仍在上诉)的潜在后果是惊人的。每当一家公司或者实体得知他所没有收集的信息(或者更确切的说是没有储存的收集)可能与一些诉讼有关,它必须开展积极的努力,来搜集和存储这类信息,这一行为违反了其明示的隐私政策(为联邦商务委员会或者阴司委员会创造潜在的职责),而其目的仅仅是为了创造法律责任。因此,当你了解诉讼的可能性时,你可能必须开始存储流媒体、VOIP通话的内容、视频会议的内容、webinar、聊天室、日志、即时信息,或者其他电子纪录,而这些,你在此之前都是从未储存过的。法院还指出,公司"不能保证自己不遵守其法律义务,保存和出示它们所拥有、监护、控制的相关的资料,并对发现的适当要求负有责任,而这是依据隐私政策--这一政策完全是受[他们]控制。"因此,即便你说,信息不会收集(存储),你也没有理由收集(存储),法院仍然可以要求你执行命令,并且一切费用都将由你自己承担。
Internet服务提供商的,门户网站和电信运营商
一个类似的问题被提出来。这个问题与由所持有的信息的Internet服务提供商(ISP )、门户网站,如谷歌、微软、雅虎与电话公司有关。这些实体定期收集大量的与他们的客户和顾客有关的数据--包括搜索请求和结果、IP历史信息、登录信息、使用的服务、日期、时间、来源、趋向和呼叫持续的时间。VOIP的运营上或者ISP可能也暂时"存储"了语音或者视频通信,作为分组网络的传输的后果。记住这句谚语:存在就是为了被发现。
现在公司有合法的理由来收集、存储、使用至少部分这方面的信息。一些商务模型就建立在基于这些信息的分析的基础之上。保持负载平衡、制作列表,甚至贩卖这些信息现在都是合法用途(只要消费者对这一切事务的进行有所了解即可)。对于供应商--英国电信、互联网服务供应商,门户网站--最重要的就是,决定哪些信息将被收集,那些将被使用,那些将被存储(存储时间),然后将这些事实传达给消费者。
关于这些实体可以保留这些信息多长时间以及他们如何处理这些信息的问题,长期以来一直都在讨论之中。司法部和联邦调查局一直都在寻求权力要求ISP、电信和其他的公司,保留纪录数据和通过自费取得的其他数据,"备而不用"的信息以后可能与某些调查有关。欧洲国家也一直在进行着同样的对话。如果纪录留存下来(即使留存他们的原因并非出于商业目的),这些信息则可能被其他人以某种方式获得--比如大陪审团的传票,FISA 或者 Title III 的窃听命令,国家安全信件中的要求,或者是出于ISP的"自愿合作"。这些信息在其他诉讼中也可能为人所利用,比如侵犯版权、诽谤、或者普通的离婚案件。既然ISP或者门户网站通常都会成为与潜在的责任有关的"第三方",他们可能不会被授权"制造"或者永久保存日志或者其他临时性资料,但即便是这样也不是完全清楚的规定。唯一明确的就是政府需要制造电子数据的公司能够保持数据的"备而不用"。
事实上,根据美国广播公司报道,美国联邦调查局在一项国防部授权法案中要求提供500万美元的拨款来支持电话公司存储信息的功能,如通话纪录,并采取一种应执法要求而检索信息的方法。据美国广播公司新闻报道:
很显然,这个500万美元的项目将为私营企业支付至少两年的电话和网络活动的费用,付帐者却是数百万的美国人,而他们当中只有很少一部分才可能会被认为是任何恐怖事件、情报或者刑事案件的嫌疑人。根据一份张贴到联邦调查局网站的未分级的预算文件,该项目还将涉及"数据存储和检索系统的发展……至少价值两年的网络电话纪录"。
因此,与其储存纪录本身(因为没有任何法律当局可以传唤所有纪录),政府基本上是向电话公司下达"文件保存"的命令,要求英国电信将纪录保留两年,并且支付期间发生的所有或者部分费用。这样做,使得电话公司能够有效的为政府和任何拥有传唤命令的个人提供便利,进入信息仓库。电话公司为了他们自身的经济目的而保留这些纪录,这样做并没有什么不妥,但是现在他们却是为了"备而不用"而这样做。这种情况不仅适用于电话公司。金融服务公司、信用卡公司、ISP’s、门户网站、网络电话供应商、社会网络站点、聊天室和及时信息供应商都可能会被限制留存纪录,或者为保留这些纪录"备而不用"而支付一笔金额,即使是当他们自身的隐私政策明令禁止这样做。
门户网站,比如谷歌、雅虎和微软,从前文提到的那条格言中吸取了教训:如果纪录存在,就会被传唤。当保护国会的反黑穗病规约的内容时,政府(在一件民事案件中)传唤了大量的数据,这些数据是关于人们是如何使用这些门户网站的、他们搜索了些什么、最后被交付了什么。由于这一案件,同时也由于立法者和执法者的文件保存命令,所有的主要门户网站都自愿同意在一段时期后隐藏他们的纪录--雅虎的期限是十三个月,谷歌和微软是18到24个月。Ask.com则走得更远,推出了一种名为AskEraser 的服务,公司声称,这种服务可以允许匿名上网;"并且也不会留存选择使用AskEraser的客户的搜索历史纪录。"
而这又将我们带回了出发点。因为你只承诺不会收集或保留纪录,这并不意味着你不会被命令要求而进行收集或保留。即使你没有足够的技术,来获取通过你的网站的数据,即使信息只是短暂地"存储",你也可能被要求获取这些纪录。当然,你可以尝试使用匿名技术,但是这些工作通常不是简单的纪录数据,TorrentSpy教授给我们的知识并不是适用于一切的。我们需要的是解决公司"存储"的"纪录" 是什么这个问题的常识性的解决办法,而不是可被公司存储的纪录数据。
作家Mark D. Rasch, J.D是美国司法部电脑罪案组的前组长,专门从事计算机犯罪、计算机安全、事件响应、法医和隐私问题;现担任FTI技术咨询公司的总经理。
公司通常会制造、保持和存储一些电子纪录。其中有些纪录被有意识地制造,比如备忘录、信件、电子表格甚至是电子邮件和聊天或者即时信息通讯;另外一些纪录则是被无意识地制造,比如meta数据、日志纪录、IP历史纪录等等。一些信息对于公司来说是有用的,便被公司保留;其他的信息相对没有多大用处,只是占用空间,甚至会给公司带来潜在的责任,即给公司带来莫须有的威胁,如攻击或者侵犯隐私的隐患。大多数公司在发展或者维持文件保存/销毁政策的过程中经常到的一个问题,就在于认定哪些文件和纪录需要保留,而哪些是不需要保留下来,并且需要有效地清除的。然而,最近的一些法律案件已经使这个文件的保存和销毁问题更加复杂化。
最近一宗涉及到文件共享网站Torrentspy的案件刚好说明了这一点。Torrentspy的隐私政策是明确和简洁的。它还指出:
TorrentSpy.com致力于保护您的隐私。TorrentSpy.com不会向任何其他公司出售、交易或租售您的个人信息。TorrentSpy.com不会收集任何有关您的个人信息,除非您主动或故意提供这类资料。
与其他成千上万的其他网站的隐私政策并没有太大的差别,甚至可以说是相当的类似,这种隐私政策被认为是具有法律约束力的合约。美国联邦贸易委员会及隐私委员会委员,在欧洲、亚洲和其他地区将定期监督公司履行他们的承诺--当然,这种监督行为是处在民事或刑事起诉或罚款的威胁之下的。
第一个与隐私政策有关的问题--和大多数隐私政策一样--在于它并不是完全真实的。无论何时,只要你浏览一个网站,你就会"不由自主"地向网站的运行者提供"个人"信息,诸如你所使用的浏览器类型、你的IP地址、IP地址的物理位置、你的配置设置、你曾浏览过的网站,以及你的其他一些活动和信息。如果你正在从事恶意的、非法的或者任何"可起诉的"行为,该网站经营者当然有充分的可能会试图利用这些信息来确定你的身份,并查明你正在做什么--这就是"个人信息"的实质。实际上,作为法庭检察员,其工作的一大部分就是使用这种信息来找到所要寻找的人。当沉迷于网络的网虫们知道这些这些信息正在被收集和利用时,他们中的绝大多数都不会承认他们是"主动而且故意"地向网站提供信息的。然而,这种信息对于网站经营者来说,往往都具有相当的经济价值。知道了用户所浏览的网站,可能就会导致用户需要依据"每次点击付费"的协议支付相关的费用。汇总个人信息不仅对于广告商非常有利,而且对于收集者来说也是有利可图的。因此,你浏览的网站只收集你主动自愿地提供给它的信息,这样说是非常不准确的。一个对于实行隐私政策更好的方法应该是包含语言的,例如谷歌公司,与其所使用的语言相类似的语言,它明确规定:
日志信息--当你使用谷歌服务,无论你在何时访问一个网站,我们的服务器都将会自动纪录你的浏览器发送过来的信息。这些服务器日志可能会包含一些诸如你的web请求、互联网协议地址、浏览器类型、浏览器的语言、你的请求发出的日期和时间,或者是一条或更多能够确定你的浏览器的痕迹的信息。
这方面的一些信息将会被自动收集,作为向用户提供所索取的网页内容的结果。你可能会认为,按照其隐私政策,企业可以会选择不收集,或者更准确的说,不存储或保留这些资料。毕竟,这是他们向他们的用户所承诺的,难道不是吗?
许久以前就有一则有关法律的谚语,从本质上证明了"存在就是为了被发现"这一观点。 目前,由于一场牵涉到TorrentSpy的官司,美国加利福尼亚州中区地方法院已经基本延伸这种逻辑,声明说:"如果它不存在,我们将会要求它被创造和存储,使之能够被发现。"在由哥伦比亚影视公司向Bunnell提起的案件中,出现了电影制片厂想要找出曾经下载过版权作品的用户的身份--而这些个人信息都与TorrentSpy的客户有关。TorrentSpy向它的用户承诺,该公司并没有搜集这类信息,并且也没有法律义务这样做。正如法院所指出的:
一般说来,当用户点击一个网页,或者一个网站上的文件的链接时,该网站的网络服务器程序就会收到客户对于这个网页或者文件的请求。这个要求包括了用户电脑的IP地址,和被请求的网页或文件的名称,以及其他一些类似的信息。这些信息被拷贝并存储在RAM中。RAM是一种临时存储设备器,方便电脑处理数据。每个用户对网页或者文件的请求都会被网络服务器程序以这种方式存储到RAM中。网络服务器破译和处理存储在RAM中的数据,以满足用户的要求。然后,网络服务器通过将被请求的文件发送给用户来完成要求。如果网站上的纪录功能是可使用的,网络服务器就会将请求和请求文件被交付的事实拷贝到日志文件。如果纪录功能不可用,则请求将不予保留。
为了符合其契约隐私政策,TorrentSpy没有启动纪录功能,没有捕捉RAM中的信息(或者更确切的说是没有存储)。因此,有人断言,它不可能被起诉。在TorrentSpy被起诉后,一个关于这些信息--存储在RAM中的信息--是否是由TorrentSpy公司定期收集的问题被TorrentSpy提了出来。由其创造的"电子储存信息"很容易会被发现和受到所谓的"诉讼持有"的攻击。当一个诉讼进行时,一旦你意识到你持有的信息与正在进行的诉讼威胁有关时,你必须停止你的文件销毁政策,并且停止删除相关信息。根据联邦民事程序规定的资料,电子存储信息被定义为"被固定在一个有形的形式中的信息,和存储在一个可从中检索和审查的中等形式中的信息"。 法院驳回了TorrentSpy的声明,该声明表示RAM中的信息从未被"存储",因为从来都没有使用过纪录功能;以及TorrentSpy使纪录功能启动从而使其"创造"的纪录也并不存在。当然,在RAM中的信息--在短时期内--至少是瞬间"储存",就像流媒体(比如网络电话,或者电话会议)在播放的短暂间隔中"储存"在你的计算机上一样。因此,信息是(1)电子的;(2)可以存储的;(3)具有相关性。其后果是,不仅这些信息容易受到TorrentSpy先例的影响,而且公司实体必须停止它的文件删除政策,以防TorrentSpy删除它从未保存的RAM中的信息。
这一裁决(目前仍在上诉)的潜在后果是惊人的。每当一家公司或者实体得知他所没有收集的信息(或者更确切的说是没有储存的收集)可能与一些诉讼有关,它必须开展积极的努力,来搜集和存储这类信息,这一行为违反了其明示的隐私政策(为联邦商务委员会或者阴司委员会创造潜在的职责),而其目的仅仅是为了创造法律责任。因此,当你了解诉讼的可能性时,你可能必须开始存储流媒体、VOIP通话的内容、视频会议的内容、webinar、聊天室、日志、即时信息,或者其他电子纪录,而这些,你在此之前都是从未储存过的。法院还指出,公司"不能保证自己不遵守其法律义务,保存和出示它们所拥有、监护、控制的相关的资料,并对发现的适当要求负有责任,而这是依据隐私政策--这一政策完全是受[他们]控制。"因此,即便你说,信息不会收集(存储),你也没有理由收集(存储),法院仍然可以要求你执行命令,并且一切费用都将由你自己承担。
Internet服务提供商的,门户网站和电信运营商
一个类似的问题被提出来。这个问题与由所持有的信息的Internet服务提供商(ISP )、门户网站,如谷歌、微软、雅虎与电话公司有关。这些实体定期收集大量的与他们的客户和顾客有关的数据--包括搜索请求和结果、IP历史信息、登录信息、使用的服务、日期、时间、来源、趋向和呼叫持续的时间。VOIP的运营上或者ISP可能也暂时"存储"了语音或者视频通信,作为分组网络的传输的后果。记住这句谚语:存在就是为了被发现。
现在公司有合法的理由来收集、存储、使用至少部分这方面的信息。一些商务模型就建立在基于这些信息的分析的基础之上。保持负载平衡、制作列表,甚至贩卖这些信息现在都是合法用途(只要消费者对这一切事务的进行有所了解即可)。对于供应商--英国电信、互联网服务供应商,门户网站--最重要的就是,决定哪些信息将被收集,那些将被使用,那些将被存储(存储时间),然后将这些事实传达给消费者。
关于这些实体可以保留这些信息多长时间以及他们如何处理这些信息的问题,长期以来一直都在讨论之中。司法部和联邦调查局一直都在寻求权力要求ISP、电信和其他的公司,保留纪录数据和通过自费取得的其他数据,"备而不用"的信息以后可能与某些调查有关。欧洲国家也一直在进行着同样的对话。如果纪录留存下来(即使留存他们的原因并非出于商业目的),这些信息则可能被其他人以某种方式获得--比如大陪审团的传票,FISA 或者 Title III 的窃听命令,国家安全信件中的要求,或者是出于ISP的"自愿合作"。这些信息在其他诉讼中也可能为人所利用,比如侵犯版权、诽谤、或者普通的离婚案件。既然ISP或者门户网站通常都会成为与潜在的责任有关的"第三方",他们可能不会被授权"制造"或者永久保存日志或者其他临时性资料,但即便是这样也不是完全清楚的规定。唯一明确的就是政府需要制造电子数据的公司能够保持数据的"备而不用"。
事实上,根据美国广播公司报道,美国联邦调查局在一项国防部授权法案中要求提供500万美元的拨款来支持电话公司存储信息的功能,如通话纪录,并采取一种应执法要求而检索信息的方法。据美国广播公司新闻报道:
很显然,这个500万美元的项目将为私营企业支付至少两年的电话和网络活动的费用,付帐者却是数百万的美国人,而他们当中只有很少一部分才可能会被认为是任何恐怖事件、情报或者刑事案件的嫌疑人。根据一份张贴到联邦调查局网站的未分级的预算文件,该项目还将涉及"数据存储和检索系统的发展……至少价值两年的网络电话纪录"。
因此,与其储存纪录本身(因为没有任何法律当局可以传唤所有纪录),政府基本上是向电话公司下达"文件保存"的命令,要求英国电信将纪录保留两年,并且支付期间发生的所有或者部分费用。这样做,使得电话公司能够有效的为政府和任何拥有传唤命令的个人提供便利,进入信息仓库。电话公司为了他们自身的经济目的而保留这些纪录,这样做并没有什么不妥,但是现在他们却是为了"备而不用"而这样做。这种情况不仅适用于电话公司。金融服务公司、信用卡公司、ISP’s、门户网站、网络电话供应商、社会网络站点、聊天室和及时信息供应商都可能会被限制留存纪录,或者为保留这些纪录"备而不用"而支付一笔金额,即使是当他们自身的隐私政策明令禁止这样做。
门户网站,比如谷歌、雅虎和微软,从前文提到的那条格言中吸取了教训:如果纪录存在,就会被传唤。当保护国会的反黑穗病规约的内容时,政府(在一件民事案件中)传唤了大量的数据,这些数据是关于人们是如何使用这些门户网站的、他们搜索了些什么、最后被交付了什么。由于这一案件,同时也由于立法者和执法者的文件保存命令,所有的主要门户网站都自愿同意在一段时期后隐藏他们的纪录--雅虎的期限是十三个月,谷歌和微软是18到24个月。Ask.com则走得更远,推出了一种名为AskEraser 的服务,公司声称,这种服务可以允许匿名上网;"并且也不会留存选择使用AskEraser的客户的搜索历史纪录。"
而这又将我们带回了出发点。因为你只承诺不会收集或保留纪录,这并不意味着你不会被命令要求而进行收集或保留。即使你没有足够的技术,来获取通过你的网站的数据,即使信息只是短暂地"存储",你也可能被要求获取这些纪录。当然,你可以尝试使用匿名技术,但是这些工作通常不是简单的纪录数据,TorrentSpy教授给我们的知识并不是适用于一切的。我们需要的是解决公司"存储"的"纪录" 是什么这个问题的常识性的解决办法,而不是可被公司存储的纪录数据。
作家Mark D. Rasch, J.D是美国司法部电脑罪案组的前组长,专门从事计算机犯罪、计算机安全、事件响应、法医和隐私问题;现担任FTI技术咨询公司的总经理。
- 旗舰级宽带 — DDN专线(03-12)
- DNS2GO使用指南(03-19)
- 从网络发展看“最后一公里”(03-24)
- 浅谈互联网上的“围墙花园”模型(06-07)
- 革命还是演变 选择WiMAX还是LTE技术(06-13)
- 从细节入手学习 家用ADSL上网共享的方法(03-13)