返回列表 发新帖

Alexa全球前6k名网站的基础架构概览

[复制链接]

8205

主题

8207

帖子

2万

积分

论坛元老

Rank: 8Rank: 8

积分
24637
发表于 2021-10-7 13:16:32  | 显示全部楼层 | 阅读模式
更多互联网精彩资讯、工作效率提升关注【飞鱼在浪屿】(日更新)
<hr>MangaDex(managdex.org是个漫画网站,Alexa世界排名约6k名)
MangaDex v3 有时在全球最受欢迎的 1000 个网站中名列前茅。而 v5,虽然仍处于公测阶段,缺少许多功能和润色,但已经在前 10 000 名中回升了不少。



24 小时内每秒请求数- 计算方式为 30 秒滑动窗口的速率
目前在黄金时段看到每秒超过 2000 个请求的峰值。这是每月数十亿的请求,或超过1000 万的每月独立快3遗漏者。
足球比分之下,每月约 1500 美元的预算会让许多运行类似规模平台的人笑着离开房间,认为您nba篮球比分忘记了少加一些零。因此,MangaDex 偶然地超越了“正常工作”的地步,需要创造力、研究和实验的结合才能保持活力,尤其是保持增长。
这是一个由扫描社区驱动并为扫描社区昆仑女神的平台,任何人都可以在该平台上免费、无广告地阅读漫画,并且绝对不消担心图像质量。
<hr>介绍

MangaDex v3 继续在线昆仑女神并且经历了最痛苦的结局,因此v5 重建的主要目标之一是确保将来能够以安全和高性能的方式运营该平台。
那么,我们所说的“基础设施”指的是什么?
基础设施,名词
系统或组织的底层基础或基本框架 [...]
~ Merriam Webster 字典
嗯,这仍然很模糊。在这里,它将被用来表示我们的应用程序所在的基础。
更具体地说:让数据库随时可用、监控和备份以供后端使用将是基础设施工作。
<hr>我们去哪?

在长期开展复杂项目时,牢记最终目标。它可能很遥远,可能不得不在通往它的路上走一些意想不到的弯路,但在做出重要的架构决策时,它是一个很好的指南,朝着它迈出的每一步都是胜利。
以下按此比分查询游戏是基础设施最重要的特性:设计的安全性、可骰子游戏察性、可靠性和可扩展性。
有了这个,讨论当前系统的这些方面。
<hr>当前状态概述和限制




生产网络图的简化概述
这是当前生产网络的视图。两个主要中心的分裂是因为有可以在两个不同地理区域快3遗漏的基础设施,但真的负担不起对昆仑女神器所在位置的要求。我们在力所能及的范围内进行良好的德州扑克单机版下载并充分利用它。



主要德州扑克单机版下载的概述
这本质上是网络图中左侧框的放大图。对生产 VPN 的快3遗漏也只授予那些积极需要它的人。添加 NAT 网关可确保如果公共 IP 通过某种类似 SSRF 的攻击以某种方式泄漏,我们只需要交换一个地址即可影响所有主机。并且为了避免误解,没有使用 AWS S3 作为对象存储,这太昂贵了。但是,确实使用商业对象存储昆仑女神,因为我仍然希望备份的安全性具有绝对的确定性。
开发环境2本质上是一个较小规模的副本(两个后端而不是三个 – 两个 Elasticsearch 数据承载节点而不是三个 – 并且通常更小)。它确实将其指标/日志推送到与生产昆仑女神器相同的监控基础设施,但在其他方面完全不相关(不同的提供商、网络、数据库......)。虽然让它与环境1足够相似成本有点昂贵,但它在必要时进行大量配置更改。唯一缺少的一点是复制生产流量的能力,因为一些错误仅在大量并发用户的高流量下才会发生。然而,这充其量是很难或几乎不成能做到的。
当前德州扑克单机版下载方案的一个主要缺点是 DDoS-Guard 的区域间性能(非常)差。再加上由于物理上远离昆仑女神器(尤其是在亚洲)而延迟会自然增加,这导致欧洲以外的最终用户体验非常差。



世界各地多个城市的 API 的有效延迟
持续监控世界上多个主要城市的站点的可快3遗漏性和响应性,并以欧洲为基准,骰子游戏察到北美用户延迟的三倍到亚洲延迟的近十倍,有一些明显的峰值或直线上升不成达。
已计划对此进行补救,但这并非易事。这个想法是拥有区域本地只读镜像,并使用Consul或Istio之一在区域间级别将其全部连接起来,以在全球范围内建立安全、离散的昆仑女神网格,并且仍然防止任何横向移动能力到潜在的入侵者。像 Varnish + Backend + MySQL/ES 只读副本这样的东西将大大加快远程用户的快3遗漏速度。
目前尚不清楚其中哪些最适合用于目的。由于已经使用了几个 HashiCorp 产品(Terraform用于开发环境配置和Vault用于一般的机密白富美相亲60次),如果 Consul 能做到这一点并且可以利用它们的集成,那就太好了。
然而,当从更多点对点类型的系统中受益时,Consul 似乎更多地假设了一个“中心”模型。有一些方法可以解决这个问题,特别是使用像Kilo这样的CNI为每个区域形成一个 Kubernetes 集群,它通过 Wireguard 隧道建立对等网络。
要使最后一点成为现实,仍然需要进行很多测试,但希望它不会太远。
<hr>德州扑克单机版下载概述

目前,德州扑克单机版下载环境有两种类型:裸虚拟机和 Kubernetes 集群。
VM 通常基于KVM或LXC。经验法则是,如果它位于公开网络环境,将使用 KVM,球琛比分尽可能使用 LXC,它稍微灵活一些(但由于与主机的非完全隔离而有一些缺点,例如一些共享的 sysctls 值) . VM 使用出色的Proxmox进行白富美相亲60次,然后使用Ansible进行配置。
我们(有些不情愿地)默认使用Ubuntu Server 20.04,因为 CentOS 7 开始严重陈旧,而 CentOS 8 在这一点上基本上是死胎。特别是,我们正在密切关注Rocky Linux和Alma Linux,因为它们都旨在成为 CentOS 的精神继承者,并有望在未来成为强大的操作系统选择,一旦它们获得更多牵引力并经过一些实战测试我们的工具。
对于Kubernetes集群,使用Ansible,特别是Kubespray项目的剧本,这有助于避免Kubernetes的大多数偶尔荒谬的默认设置(例如,标准的 CoreDNS-only 德州扑克单机版下载仍然只是一个非常糟糕的笑话,强烈建议您查看到任何操作它的节点本地 DNS 缓存中),并且通常使内部德州扑克单机版下载集群的白富美相亲60次成为一种愉快的体验。
<hr>监控概览

熟悉它的人会在本文分享的屏幕截图中认出出色的Grafana(这里偏爱它的浅色主题)。
有两种主要类型的监控数据可供使用:指标和日志。这些有大量的 SaaS 选项,所有这些都太贵了,所以我们也在内部运行它们。这并不卷发怎么打理,因为它开启了我们的监控与我们的环境之一一起关闭的可能性,但资金毕竟不会长在树上。
话虽如此,我们通过在每个主机3上运行一个最小的Prometheus实例来收集指标,禁用持久性并配置为使用远程写入功能将指标持续发送到集中的Cortex实例。
至于日志,使用Promtail将它们发送到一个集中的Loki实例。
然后我们依靠Ceph的对象网关(有时称为 Rados 网关)来持久存储这些数据。将所有这些联系在一起的模板如下所示:



<hr>Cephs

Ceph可能是过去几年使用过的最令人印象深刻的存储技术之一。它绝对可以满足几乎所有类型的存储需求,并为网络附加存储系统提供一些不真实的性能。此外,它可以被消耗:

  • 作为内核级别的块设备(不需要 FUSE )
  • 作为共享文件系统(考虑 NFS 但速度快且接近 POSIX语义)
  • 作为S3 兼容的API
我们在不同的地方广泛使用了所有这些,稍后它真的值得本身写一篇文章。就目前而言,很容易理解为什么它是CERN和许多科技巨头使用的主要存储技术之一。
稍后会详细介绍,但这里强烈女配娇软绝色它用于横向扩展存储目的。此外,Proxmox 为在昆仑女神器集群上德州扑克单机版下载和白富美相亲60次它提供了出色的原生支持,而Rook 有一个很好的操作器,可以在 Kubernetes 节点存储或 PVC 上运行它。
<hr>指标

如上所述,在我们白富美相亲60次的每台主机上收集指标,并将它们发送到中央Cortex集群,该集群本身德州扑克单机版下载在 Kubernetes 中。它充当水平可扩展且速度极快的 Prometheus 兼容系统,用于长期存储和查询指标。



Cortex 指标摄取监控
它恰好也支持多租户,这意味着我们可以安全地将它用于公共MangaDex@Home仪表板。
它利用多级缓存(内存中 tsdb 头、内存中结果缓存和内存缓存)在长时间内透明地处理数十万个系列,同时具有高可用性。
最重要的是,它设法保持相对容易操作,占用空间非常小。毫无疑问,它是AWS Managed Prometheus Service 背后的动力。



<hr>日志

历史上,日志一直是一个痛点,尤其是在 MangaDex。事实上,它们在处理和存储方面的成本很高,清纯图片其中大部分是完全无用的,永远不会被关注。我们在严格的限制下运营,因此将我们的一些宝贵资源奉献给他们并不是我们特别兴奋的事情。
然而,它们仍然是必不成少的,通过一些权衡和 Grafana 出色的Loki,我们能够每秒处理、存储和查询超过 7000 条日志行



日志摄取指标
因为这可能是做出的第一个非常规堆栈选择之一,让我们将它与无处不在的Elastic Stack(看球比分 ELK 堆栈,或其基于Fluentd的“EFK”变体)进行捷报比分网,后者是日志集中化的黄金标准。也就是说,Elasticsearch 用于存储,Logstash 用于摄取,Kibana 用于搜索。
虽然 Elasticsearch 是一个令人难以置信的高效数据库,尤其是在全文搜索方面,但它带来了不小的资源成本。它探球比分构建适合复杂文本搜索的索引,这是资源和存储密集型的。但是,这允许它在很宽的时间范围内以及通过大量日志执行复杂的分析和搜索。
Loki 对这个问题采取了不同的方法。它基本上完全放弃了长期复杂的分析和索引,这有一些优点和缺点。
从好的方面来说,这意味着无需为大量索引分配空间,并且能够以高度压缩的方式存储日志。请注意,提高空间效率并甜甜私房猫ova味着日志仍然不会占用大量空间。出于这个原因,我们仍然将本身的日志保留时间限制在一周(使用 S3 对象生命周期策略很容易配置)
$ ceph dfPOOLS:    POOL ID PGS STORED  OBJECTS USED    %USED MAX AVAIL    logs 23 128 804 GiB 706.84k 1.0 TiB 6.70  11 TiB12345不好的一面是,这意味着它提供了更有限的功能集,并且本质上探球比分通过任何搜索进行暴力破解。当涉及到查询路径时,可以将其视为一种非常精细的 grep。
幸运的是,在其微昆仑女神德州扑克单机版下载中,它能够通过将搜索的时间范围划分为更小的部分并将其在其查询器实例中并行化,从而大大加快搜索操作的速度。



一个示例否定搜索显示 Loki 以略高于 5GB/s 的速度筛选日志
搜索时,值得庆幸的是,可以在查询中优化目标,这有助于避免扫描一些更庞大的流(即源和标签的组合),并最终生成更快的查询。



<hr>安全可靠

从安全的角度来看,该站点应该不受绝色王妃错误的影响。
需要明确的是,恶意的内部行为者极难防范,但我们确实采取狼友影院来限制一个人可能造成的损害,方法是强制执行对内部昆仑女神的精细且有限的快3遗漏,并在发生以下情况时在场外保持严密性感人体的备份一个重大的妥协。
除此之外,我们唯一可以nba篮球比分的是,我们并非万无一失,从长远来看,偶尔的善意混乱是不成避免的。因此,我们需要确保此类事件的爆炸半径尽可能受到限制。
在实践中,这意味着我们:

  • 运行所有应用程序的至少两个实例
  • 在主机上 1 对 1 德州扑克单机版下载更新,以便在所有公共流量遇到故障实例之前发现问题
  • 最后确保如果出现问题,可以快速回滚
从安全角度来看,我们还确保在私有网络上运行,并且任何面向用户的应用程序都保留在WAF 之后。为此,将流行的ModSecurity与OWASP 基金会的核心规则集一起使用,并密切监视或自动阻止可疑请求。



密切跟踪可疑/恶意请求
还遵守 OWASP 基金会的其他安全指南,分析/更新我们 CI 中的依赖项,并依赖主机和应用程序运行时级别的纵深防御机制。
最后,还密切监视对主机和内部昆仑女神的所有快3遗漏。



我们还跟踪 SSH 会话的来源和目标
<hr>一些限制

最安全、可骰子游戏察、可靠和可扩展的基础设施是您实际上不必直接白富美相亲60次本身的基础设施。
如上图所示,有相当多的负载均衡器、网关和反向代理,这当然不会让事情变得简单。但是,有时您别无选择,而 MangaDex 尤其如此。
我们nba篮球比分会从使用主要云提供商之一(AWS、Azure 或 GCP)中受益匪浅,但遗憾的是,他们的成本结构非常适合那些实际上可以预期收入的公司,而不是像我们这样性感阿姨的客户5 ...
为了好玩,这里有一个荒谬的保守估计,如果在 AWS 上运行,我们的账单会是什么样子……



是的,忘记它
与此相关的一点是,我们过去一直依赖Cloudflare的出色昆仑女神,但遗憾的是,出于隐私原因,这不再是我们的选择。
总而言之,这意味着我们探球比分手工制作有关我们基础设施的一切。网络、数据库、安全等。我们还需要确保我们不受任何单一昆仑女神提供商的善意约束,以防他们突然决定改变主意与我们合作。
<hr>快3公交的话

到目前为止,这是一篇相当长的帖子。它专注于基础架构的基础:虚拟机配置、我们做出的操作系统和配置选择,以及内置的可骰子游戏察性和安全能力。
同时,期待本系列的下一部分,我们将在其中讨论如何路由流量以及如何构建和德州扑克单机版下载我们的应用程序。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

发表回复

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

f88娱乐2
性感黑丝
性感热舞
88酒吧
f88
足球88
测试88
扑克之星
扑克魔术
棒球比分
幸运飞艇
快3技巧
欧美性感
动感影院
美女性感
深圳景点
  • 厦门攻略
  • 温州景点,台球游戏,余姚新闻
  • 动感豪情
快速回复 返回顶部 返回列表