Flink入门指引

今天看到了有关flink的内容,来学习了解一下:

一、简介

    Apache Flink是一个框架和分布式处理引擎,用于对无限制和有限制的数据流进行有状态的计算。Flink被设计为可在所有常见集群环境中运行,以内存速度和任意规模执行计算。


二、处理无界和有界数据

    任何类型的数据都是作为事件流产生的。信用卡交易,传感器测量,机器日志或网站或移动应用程序上的用户交互,所有这些数据均可以作为流生成。

    数据可以作为无界流或有界流处理:

    1)无限制的流有一个起点,但没有定义的终点。它们不会终止并在生成数据时提供数据。无限制的流必须连续处理,即,事件在被摄取后必须立即处理。无法等待所有输入数据到达,因为输入是无界的,并且在任何时间点都不会完成。处理无边界数据通常需要以特定顺序(例如事件发生的顺序)来摄取事件,以便能够推断出结果的完整性。

    2)有界流具有定义的开始和结束。可以通过在执行任何计算之前提取所有数据来处理有界流。由于有界数据集始终可以排序,因此不需要有序摄取即可处理有界流。绑定流的处理也称为批处理。

 Apache Flink擅长处理无边界和有边界的数据集。精确的时间和状态控制使Flink的运行时能够在无限制的流上运行任何类型的应用程序。有界流由专门为固定大小的数据集设计的算法和数据结构在内部进行处理,从而产生出色的性能。


三、随时随地部署应用程序

    Apache Flink是一个分布式系统,需要计算资源才能执行应用程序。Flink与所有常见的群集资源管理器(如Hadoop YARN,Apache Mesos和Kubernetes)集成,但也可以设置为作为独立群集运行。

    Flink旨在与前面列出的每个资源管理器配合使用。这是通过特定于资源管理器的部署模式实现的,该模式允许Flink以其惯用方式与每个资源管理器进行交互。

    部署Flink应用程序时,Flink会根据应用程序配置的并行性自动识别所需的资源,并向资源管理器请求。如果发生故障,Flink会通过请求新资源来替换发生故障的容器。提交或控制应用程序的所有通信均通过REST调用进行。这简化了Flink在许多环境中的集成。


四、任意规模运行应用程序

    Flink旨在运行任何规模的有状态流应用程序。应用程序被并行化为可能成千上万的任务,这些任务在集群中分布并同时执行。因此,应用程序几乎可以利用无限数量的CPU,主内存,磁盘和网络IO。而且,Flink易于维护非常大的应用程序状态。它的异步和增量检查点算法可确保对处理延迟的影响降至最低,同时保证状态一致性。


五、利用内存性能

    有状态Flink应用程序针对本地状态访问进行了优化。任务状态始终保持在内存中,或者,如果状态大小超出可用内存,则始终保持在访问有效的磁盘数据结构中。因此,任务通过访问通常处于内存中的状态来执行所有计算,从而产生非常低的处理延迟。Flink通过定期将本地状态异步指向持久性存储来确保出现故障时一次准确的状态一致性。

#学习路径#
全部评论
多学一点总是好的
点赞 回复
分享
发布于 2022-10-22 20:43 陕西

相关推荐

点赞 评论 收藏
转发
2 3 评论
分享
牛客网
牛客企业服务