Drop support for submit_* ops
Signed-off-by: Robert Baldyga <robert.baldyga@huawei.com>
This commit is contained in:
Robert Baldyga
parent
bc7710fb7d
commit
5820e17e21
@ -192,42 +192,6 @@ uint32_t cas_io_iter_zero(struct bio_vec_iter *dst, uint32_t bytes)
|
||||
return zeroed;
|
||||
}
|
||||
|
||||
/*
|
||||
*
|
||||
*/
|
||||
int cas_blk_io_set_data(struct ocf_io *io,
|
||||
ctx_data_t *ctx_data, uint32_t offset)
|
||||
{
|
||||
struct blkio *blkio = cas_io_to_blkio(io);
|
||||
struct blk_data *data = ctx_data;
|
||||
|
||||
/* Set BIO vector (IO data) and initialize iterator */
|
||||
blkio->data = data;
|
||||
if (blkio->data) {
|
||||
cas_io_iter_init(&blkio->iter, blkio->data->vec,
|
||||
blkio->data->size);
|
||||
|
||||
/* Move into specified offset in BIO vector iterator */
|
||||
if (offset != cas_io_iter_move(&blkio->iter, offset)) {
|
||||
/* TODO Log message */
|
||||
blkio->error = -ENOBUFS;
|
||||
return -ENOBUFS;
|
||||
}
|
||||
}
|
||||
|
||||
return 0;
|
||||
}
|
||||
|
||||
/*
|
||||
*
|
||||
*/
|
||||
ctx_data_t *cas_blk_io_get_data(struct ocf_io *io)
|
||||
{
|
||||
struct blkio *blkio = cas_io_to_blkio(io);
|
||||
|
||||
return blkio->data;
|
||||
}
|
||||
|
||||
int cas_blk_open_volume_by_bdev(ocf_volume_t *vol, struct block_device *bdev)
|
||||
{
|
||||
struct bd_object *bdobj;
|
||||
|
||||
@ -1,5 +1,6 @@
|
||||
/*
|
||||
* Copyright(c) 2012-2022 Intel Corporation
|
||||
* Copyright(c) 2024 Huawei Technologies
|
||||
* SPDX-License-Identifier: BSD-3-Clause
|
||||
*/
|
||||
|
||||
@ -9,27 +10,6 @@
|
||||
#include "obj_blk.h"
|
||||
#include "context.h"
|
||||
|
||||
struct blkio {
|
||||
int error;
|
||||
atomic_t rq_remaning;
|
||||
atomic_t ref_counter;
|
||||
int32_t dir;
|
||||
|
||||
struct blk_data *data; /* IO data buffer */
|
||||
|
||||
/* BIO vector iterator for sending IO */
|
||||
struct bio_vec_iter iter;
|
||||
};
|
||||
|
||||
static inline struct blkio *cas_io_to_blkio(struct ocf_io *io)
|
||||
{
|
||||
return ocf_io_get_priv(io);
|
||||
}
|
||||
|
||||
int cas_blk_io_set_data(struct ocf_io *io, ctx_data_t *data,
|
||||
uint32_t offset);
|
||||
ctx_data_t *cas_blk_io_get_data(struct ocf_io *io);
|
||||
|
||||
int cas_blk_open_volume_by_bdev(ocf_volume_t *vol,
|
||||
struct block_device *bdev);
|
||||
void cas_blk_close_volume(ocf_volume_t vol);
|
||||
|
||||
@ -105,211 +105,6 @@ static inline struct bio *cas_bd_io_alloc_bio(struct block_device *bdev,
|
||||
return cas_bio_alloc(bdev, GFP_NOIO, MAX_LINES_PER_IO);
|
||||
}
|
||||
|
||||
/*
|
||||
*
|
||||
*/
|
||||
static void cas_bd_io_end(struct ocf_io *io, int error)
|
||||
{
|
||||
struct blkio *bdio = cas_io_to_blkio(io);
|
||||
|
||||
if (error)
|
||||
bdio->error |= error;
|
||||
|
||||
if (atomic_dec_return(&bdio->rq_remaning))
|
||||
return;
|
||||
|
||||
CAS_DEBUG_MSG("Completion");
|
||||
|
||||
/* Send completion to caller */
|
||||
io->end(io, bdio->error);
|
||||
}
|
||||
|
||||
/*
|
||||
*
|
||||
*/
|
||||
CAS_DECLARE_BLOCK_CALLBACK(cas_bd_io_end, struct bio *bio,
|
||||
unsigned int bytes_done, int error)
|
||||
{
|
||||
struct ocf_io *io;
|
||||
struct blkio *bdio;
|
||||
struct bd_object *bdobj;
|
||||
int err;
|
||||
|
||||
BUG_ON(!bio);
|
||||
BUG_ON(!bio->bi_private);
|
||||
CAS_BLOCK_CALLBACK_INIT(bio);
|
||||
io = bio->bi_private;
|
||||
bdobj = bd_object(ocf_io_get_volume(io));
|
||||
BUG_ON(!bdobj);
|
||||
err = CAS_BLOCK_CALLBACK_ERROR(bio, error);
|
||||
bdio = cas_io_to_blkio(io);
|
||||
BUG_ON(!bdio);
|
||||
|
||||
CAS_DEBUG_TRACE();
|
||||
|
||||
if (err == -EOPNOTSUPP && (CAS_BIO_OP_FLAGS(bio) & CAS_BIO_DISCARD))
|
||||
err = 0;
|
||||
|
||||
cas_bd_io_end(io, err);
|
||||
|
||||
bio_put(bio);
|
||||
CAS_BLOCK_CALLBACK_RETURN();
|
||||
}
|
||||
|
||||
static void block_dev_submit_flush(struct ocf_io *io)
|
||||
{
|
||||
struct blkio *blkio = cas_io_to_blkio(io);
|
||||
struct bd_object *bdobj = bd_object(ocf_io_get_volume(io));
|
||||
struct block_device *bdev = bdobj->btm_bd;
|
||||
struct request_queue *q = bdev_get_queue(bdev);
|
||||
struct bio *bio = NULL;
|
||||
|
||||
/* Prevent races of completing IO */
|
||||
atomic_set(&blkio->rq_remaning, 1);
|
||||
|
||||
if (q == NULL) {
|
||||
/* No queue, error */
|
||||
blkio->error = -EINVAL;
|
||||
goto out;
|
||||
}
|
||||
|
||||
if (!CAS_CHECK_QUEUE_FLUSH(q)) {
|
||||
/* This block device does not support flush, call back */
|
||||
goto out;
|
||||
}
|
||||
|
||||
bio = cas_bio_alloc(bdev, GFP_NOIO, 0);
|
||||
if (bio == NULL) {
|
||||
CAS_PRINT_RL(KERN_ERR "Couldn't allocate memory for BIO\n");
|
||||
blkio->error = -ENOMEM;
|
||||
goto out;
|
||||
}
|
||||
|
||||
blkio->dir = io->dir;
|
||||
|
||||
bio->bi_end_io = CAS_REFER_BLOCK_CALLBACK(cas_bd_io_end);
|
||||
CAS_BIO_SET_DEV(bio, bdev);
|
||||
bio->bi_private = io;
|
||||
|
||||
atomic_inc(&blkio->rq_remaning);
|
||||
cas_submit_bio(CAS_SET_FLUSH(io->dir), bio);
|
||||
|
||||
out:
|
||||
cas_bd_io_end(io, blkio->error);
|
||||
}
|
||||
|
||||
static void block_dev_submit_discard(struct ocf_io *io)
|
||||
{
|
||||
struct blkio *blkio = cas_io_to_blkio(io);
|
||||
struct bd_object *bdobj = bd_object(ocf_io_get_volume(io));
|
||||
struct block_device *bd = bdobj->btm_bd;
|
||||
struct request_queue *q = bdev_get_queue(bd);
|
||||
struct bio *bio = NULL;
|
||||
|
||||
unsigned int max_discard_sectors, granularity, bio_sects;
|
||||
int alignment;
|
||||
sector_t sects, start, end, tmp;
|
||||
|
||||
/* Prevent races of completing IO */
|
||||
atomic_set(&blkio->rq_remaning, 1);
|
||||
|
||||
if (!q) {
|
||||
/* No queue, error */
|
||||
blkio->error = -ENXIO;
|
||||
goto out;
|
||||
}
|
||||
|
||||
if (!cas_has_discard_support(bd)) {
|
||||
/* Discard is not supported by bottom device, send completion
|
||||
* to caller
|
||||
*/
|
||||
goto out;
|
||||
}
|
||||
|
||||
granularity = max(q->limits.discard_granularity >> SECTOR_SHIFT, 1U);
|
||||
alignment = (bdev_discard_alignment(bd) >> SECTOR_SHIFT) % granularity;
|
||||
max_discard_sectors =
|
||||
min(q->limits.max_discard_sectors, UINT_MAX >> SECTOR_SHIFT);
|
||||
max_discard_sectors -= max_discard_sectors % granularity;
|
||||
if (unlikely(!max_discard_sectors))
|
||||
goto out;
|
||||
|
||||
sects = io->bytes >> SECTOR_SHIFT;
|
||||
start = io->addr >> SECTOR_SHIFT;
|
||||
|
||||
while (sects) {
|
||||
bio = cas_bio_alloc(bd, GFP_NOIO, 1);
|
||||
if (!bio) {
|
||||
CAS_PRINT_RL(CAS_KERN_ERR "Couldn't allocate memory for BIO\n");
|
||||
blkio->error = -ENOMEM;
|
||||
break;
|
||||
}
|
||||
|
||||
bio_sects = min_t(sector_t, sects, max_discard_sectors);
|
||||
end = start + bio_sects;
|
||||
tmp = end;
|
||||
if (bio_sects < sects &&
|
||||
sector_div(tmp, granularity) != alignment) {
|
||||
end = end - alignment;
|
||||
sector_div(end, granularity);
|
||||
end = end * granularity + alignment;
|
||||
bio_sects = end - start;
|
||||
}
|
||||
|
||||
CAS_BIO_SET_DEV(bio, bd);
|
||||
CAS_BIO_BISECTOR(bio) = start;
|
||||
CAS_BIO_BISIZE(bio) = bio_sects << SECTOR_SHIFT;
|
||||
bio->bi_next = NULL;
|
||||
bio->bi_private = io;
|
||||
bio->bi_end_io = CAS_REFER_BLOCK_CALLBACK(cas_bd_io_end);
|
||||
|
||||
atomic_inc(&blkio->rq_remaning);
|
||||
cas_submit_bio(CAS_BIO_DISCARD, bio);
|
||||
|
||||
sects -= bio_sects;
|
||||
start = end;
|
||||
|
||||
cond_resched();
|
||||
}
|
||||
|
||||
out:
|
||||
cas_bd_io_end(io, blkio->error);
|
||||
}
|
||||
|
||||
static inline bool cas_bd_io_prepare(int *dir, struct ocf_io *io)
|
||||
{
|
||||
struct blkio *bdio = cas_io_to_blkio(io);
|
||||
|
||||
/* Setup DIR */
|
||||
bdio->dir = *dir;
|
||||
|
||||
/* Convert CAS direction into kernel values */
|
||||
switch (bdio->dir) {
|
||||
case OCF_READ:
|
||||
*dir = READ;
|
||||
break;
|
||||
|
||||
case OCF_WRITE:
|
||||
*dir = WRITE;
|
||||
break;
|
||||
|
||||
default:
|
||||
bdio->error = -EINVAL;
|
||||
break;
|
||||
}
|
||||
|
||||
if (!io->bytes) {
|
||||
/* Don not accept empty request */
|
||||
CAS_PRINT_RL(KERN_ERR "Invalid zero size IO\n");
|
||||
bdio->error = -EINVAL;
|
||||
}
|
||||
|
||||
if (bdio->error)
|
||||
return false;
|
||||
|
||||
return true;
|
||||
}
|
||||
|
||||
/*
|
||||
* Returns only flags that are relevant to request's direction.
|
||||
*/
|
||||
@ -325,119 +120,6 @@ static inline uint64_t filter_req_flags(int dir, uint64_t flags)
|
||||
return flags;
|
||||
}
|
||||
|
||||
/*
|
||||
*
|
||||
*/
|
||||
static void block_dev_submit_io(struct ocf_io *io)
|
||||
{
|
||||
struct blkio *bdio = cas_io_to_blkio(io);
|
||||
struct bd_object *bdobj = bd_object(ocf_io_get_volume(io));
|
||||
struct bio_vec_iter *iter = &bdio->iter;
|
||||
uint64_t addr = io->addr;
|
||||
uint32_t bytes = io->bytes;
|
||||
int dir = io->dir;
|
||||
struct blk_plug plug;
|
||||
|
||||
if (CAS_IS_SET_FLUSH(io->flags)) {
|
||||
CAS_DEBUG_MSG("Flush request");
|
||||
/* It is flush requests handle it */
|
||||
block_dev_submit_flush(io);
|
||||
return;
|
||||
}
|
||||
|
||||
CAS_DEBUG_PARAM("Address = %llu, bytes = %u\n", addr, bytes);
|
||||
|
||||
/* Prevent races of completing IO */
|
||||
atomic_set(&bdio->rq_remaning, 1);
|
||||
|
||||
if (!cas_bd_io_prepare(&dir, io)) {
|
||||
CAS_DEBUG_MSG("Invalid request");
|
||||
cas_bd_io_end(io, -EINVAL);
|
||||
return;
|
||||
}
|
||||
|
||||
blk_start_plug(&plug);
|
||||
|
||||
while (cas_io_iter_is_next(iter) && bytes) {
|
||||
/* Still IO vectors to be sent */
|
||||
|
||||
/* Allocate BIO */
|
||||
struct bio *bio = cas_bd_io_alloc_bio(bdobj->btm_bd, iter);
|
||||
|
||||
if (!bio) {
|
||||
bdio->error = -ENOMEM;
|
||||
break;
|
||||
}
|
||||
|
||||
/* Setup BIO */
|
||||
CAS_BIO_SET_DEV(bio, bdobj->btm_bd);
|
||||
CAS_BIO_BISECTOR(bio) = addr / SECTOR_SIZE;
|
||||
bio->bi_next = NULL;
|
||||
bio->bi_private = io;
|
||||
CAS_BIO_OP_FLAGS(bio) |= filter_req_flags(dir, io->flags);
|
||||
bio->bi_end_io = CAS_REFER_BLOCK_CALLBACK(cas_bd_io_end);
|
||||
|
||||
/* Add pages */
|
||||
while (cas_io_iter_is_next(iter) && bytes) {
|
||||
struct page *page = cas_io_iter_current_page(iter);
|
||||
uint32_t offset = cas_io_iter_current_offset(iter);
|
||||
uint32_t length = cas_io_iter_current_length(iter);
|
||||
int added;
|
||||
|
||||
if (length > bytes)
|
||||
length = bytes;
|
||||
|
||||
added = bio_add_page(bio, page, length, offset);
|
||||
BUG_ON(added < 0);
|
||||
|
||||
if (added == 0) {
|
||||
/* No more space in BIO, stop adding pages */
|
||||
break;
|
||||
}
|
||||
|
||||
/* Update address, bytes sent */
|
||||
bytes -= added;
|
||||
addr += added;
|
||||
|
||||
/* Update BIO vector iterator */
|
||||
if (added != cas_io_iter_move(iter, added)) {
|
||||
bdio->error = -ENOBUFS;
|
||||
break;
|
||||
}
|
||||
}
|
||||
|
||||
if (bdio->error == 0) {
|
||||
/* Increase IO reference for sending this IO */
|
||||
atomic_inc(&bdio->rq_remaning);
|
||||
|
||||
/* Send BIO */
|
||||
CAS_DEBUG_MSG("Submit IO");
|
||||
cas_submit_bio(dir, bio);
|
||||
bio = NULL;
|
||||
} else {
|
||||
if (bio) {
|
||||
bio_put(bio);
|
||||
bio = NULL;
|
||||
}
|
||||
|
||||
/* ERROR, stop processed */
|
||||
break;
|
||||
}
|
||||
}
|
||||
|
||||
blk_finish_plug(&plug);
|
||||
|
||||
if (bytes && bdio->error == 0) {
|
||||
/* Not all bytes sent, mark error */
|
||||
bdio->error = -ENOBUFS;
|
||||
}
|
||||
|
||||
/* Prevent races of completing IO when
|
||||
* there are still child IOs not being send.
|
||||
*/
|
||||
cas_bd_io_end(io, 0);
|
||||
}
|
||||
|
||||
/*
|
||||
*
|
||||
*/
|
||||
@ -679,16 +361,11 @@ static void block_dev_forward_discard(ocf_volume_t volume,
|
||||
|
||||
const struct ocf_volume_properties cas_object_blk_properties = {
|
||||
.name = "Block_Device",
|
||||
.io_priv_size = sizeof(struct blkio),
|
||||
.volume_priv_size = sizeof(struct bd_object),
|
||||
.caps = {
|
||||
.atomic_writes = 0, /* Atomic writes not supported */
|
||||
},
|
||||
.ops = {
|
||||
.submit_io = block_dev_submit_io,
|
||||
.submit_flush = block_dev_submit_flush,
|
||||
.submit_metadata = NULL,
|
||||
.submit_discard = block_dev_submit_discard,
|
||||
.forward_io = block_dev_forward_io,
|
||||
.forward_flush = block_dev_forward_flush,
|
||||
.forward_discard = block_dev_forward_discard,
|
||||
@ -697,10 +374,6 @@ const struct ocf_volume_properties cas_object_blk_properties = {
|
||||
.get_max_io_size = block_dev_get_max_io_size,
|
||||
.get_length = block_dev_get_byte_length,
|
||||
},
|
||||
.io_ops = {
|
||||
.set_data = cas_blk_io_set_data,
|
||||
.get_data = cas_blk_io_get_data,
|
||||
},
|
||||
.deinit = NULL,
|
||||
};
|
||||
|
||||
|
||||
@ -6,7 +6,6 @@
|
||||
|
||||
#ifndef __VOL_BLOCK_DEV_BOTTOM_H__
|
||||
#define __VOL_BLOCK_DEV_BOTTOM_H__
|
||||
|
||||
int block_dev_init(void);
|
||||
|
||||
#endif /* __VOL_BLOCK_DEV_BOTTOM_H__ */
|
||||
|
||||
Loading…
Reference in New Issue
Block a user